输入 0.1 + 0.2,屏幕回答 0.3;输入 0.1 + 0.2 − 0.3,它回答 5.5511151231258⋅10−17。减法那一式才是诚实的说法:存下来的那个和确实比 0.3 高出一点,高出的就在小数点后第十七位那一档;只求和的那一式之所以看着没错,只因为打印的位数太少,少到那点误差连露面都露不出来。
0.1 和 0.2 都没有精确的二进制写法——它们在二进制里是循环展开,就像 1/3 在十进制里那样——于是机器各自存下最接近的可表示值,而这两次舍入并没有互相抵消。钱要用整数的「分」来记、算出来的小数不能直接判等,原因都在这里;残数之所以是 5.6 × 10⁻¹⁷ 上下,而不是只看机器精度会预期的 2.2 × 10⁻¹⁶,原因也在这里:两次舍入,一次减法。
答案
5.5511151231258⋅10−17
口径说明
0.1 + 0.2 − 0.3 之后剩下的那点残数。只有两项的那个式子印出 0.3,是因为屏幕在你看见那道缝之前就先舍了。
出处
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
在计算器里做这道题
下面的链接直接打开对应的计算器,并把这道题的数字填进屏幕——答案就是上面那一行,可以自己核对。