エンジニア基礎 / データ表現
序盤は鳥取島根。ラクダ。講義前の会話からラクダ、鳥取、そして島根。そこから出雲大社ルートの神社仏閣でアニメ漫画多いよね、の流れ。
- すなば珈琲
http://www.sunaba.coffee/ - らくだライド体験 鳥取砂丘らくだや
http://rakudaya.info/camel - 敦煌、鳴沙山 1991年(ピンボケですが以前見せた写真のやつ)
https://www.flickr.com/gp/backyard46/u2Le1M - 出雲大社
http://www.izumooyashiro.or.jp/ - 神社仏閣系 / 神様はじめました(漫画公式)
https://www.hanayume.com/kamisama/ - 神社仏閣系 / ぎんぎつね(アニメ公式)
http://gingitsune.net/ - 神社仏閣和風系その他の例(名前のみ)
夏目友人帳、鬼灯の冷徹、ノラガミ、境界のrinne 等々(のうち、比較的無難なもの) - 10進数と2進数の変換 / 基本情報技術者講座
http://www.it-license.com/cardinal_number/DecimalToBinary.html - 小数点ありの10進数を2進数に変換(変換ツールあり) / 具体例で学ぶ数学
https://mathwords.net/syosuu2sin - マイナス値の表現 / 具体例で学ぶ数学 ……とりあえず二の補数で覚えておいて、理屈はあとでOK
https://mathwords.net/ninohosuu - 算術シフト演算 / Windows標準の電卓 プログラマ機能について / cignoir.log
Windowsの電卓を使ってやってみる説明
http://cignoir.hatenablog.jp/entry/2014/04/08/115155 - 浮動小数点数(Wikipedia)
http://bit.ly/2INXZoN - 仮数、基数、指数 / 具体例で学ぶ数学
https://mathwords.net/kasuubu - 二進化十進表現 (Wikipedia) / 0.627 → 0000.0110 0010 0111 のように1桁ずつ二進数にする記法
http://bit.ly/2ITw32S

るるぶ鳥取 大山 蒜山高原 水木しげるロード'20 (るるぶ情報版地域)
- 出版社/メーカー: ジェイティビィパブリッシング
- 発売日: 2019/03/08
- メディア: ムック
- この商品を含むブログを見る
浮動小数点型の誤差実験
VBAで、Double型(倍精度浮動小数点型、データサイズ64bitの浮動小数点数)で足し算を繰り返すと誤差が出るサンプルは下記の通り。
Public Function CalcCorrectnessTest() As Double Dim result As Double Dim d As Double Dim i As Long d = 0.1 For i = 1 To 10000 result = result + d Next CalcCorrectnessTest = result 'MsgBox result End Function
Doubleの場合、1万回、0.1を加算すると「1000.00000000016」になります。逆に「Single(32bit浮動小数点型)」でやるとどうなるか、試してみても面白いかも知れません。 さらに、二進化十進数を使って誤差が出ないようにしたバージョンはこちら。
Public Function CalcCorrectnessTest() As Variant ' VariantはVBAの「何でも入るデータ型」 Dim result As Variant Dim d As Variant Dim i As Long d = CDec(0.1) ' CDecで数値をDecimal型(二進化十進数)に変換 For i = 1 To 10000 result = result + d Next CalcCorrectnessTest = result End Function

- 作者: 神足史人
- 出版社/メーカー: 丸善出版
- 発売日: 2018/10/18
- メディア: 単行本(ソフトカバー)
- この商品を含むブログを見る