0.1 + 0.2 と入力すると、画面は 0.3 と答えます。0.1 + 0.2 − 0.3 と入力すると、5.5511151231258⋅10−17 と答えます。正直なのは引き算のほうです。保存された和は小数第 17 位で 0.3 より数単位上にあり、和だけが正しく見えるのは、誤りが現れるのに必要な桁数より少なく画面が丸めるからです。
0.1 も 0.2 も厳密な 2 進表現を持ちません。10 進での 1/3 のような循環展開なので、機械はどちらも表現可能な最も近い値を保持し、2 つの丸めは打ち消し合いません。だからこそ金額は整数のセントで扱われ、計算された小数の等値判定が誤りになり、残りが、マシンイプシロンだけから予測される 2.2 × 10⁻¹⁶ ではなく約 5.6 × 10⁻¹⁷ になるのです。2 つの丸めと 1 つの引き算です。
答え
5.5511151231258⋅10−17
読み方
0.1 + 0.2 − 0.3 の後の残り。2 項版は 0.3 を示します。差が見える前に画面が丸めてしまうからです。
出典
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
電卓で解いてみる
これらのリンクは、この問題の数値が入力済みの状態で適切な電卓を開きます。上の行は画面に表示されるはずの内容です。ぜひ自分で確認してください。