Entries from 2018-11-28 to 1 day

演算誤差と戦う

浮動小数点を使ったときの誤差についてはよく話題になる。 https://togetter.com/li/1289806 「0.01を10000回足したら100.003になる」といわれているが、実際にそうなるのか試してみよう。python3で0.01を10000回足す処理を書いてみる。 sum = 0 for i in ra…