Наберите 0.1 + 0.2 — и дисплей ответит 0.3. Наберите 0.1 + 0.2 − 0.3 — и он ответит 5.5511151231258⋅10−17. Честно именно вычитание: хранимая сумма на несколько единиц выше 0.3 в семнадцатом десятичном знаке, а простая сумма выглядит правильной лишь потому, что показ округляется до меньшего числа цифр, чем нужно, чтобы ошибка проявилась.
Ни 0.1, ни 0.2 не имеют точной двоичной записи: это периодические дроби, как 1/3 в десятичной системе, поэтому машина хранит для обоих ближайшее представимое значение, и два округления не взаимно уничтожаются. Отсюда и деньги в целых центах, отсюда и ошибочность проверок на равенство у вычисленных десятичных дробей, отсюда и остаток около 5.6 × 10⁻¹⁷, а не 2.2 × 10⁻¹⁶, которые предсказало бы одно машинное эпсилон: два округления, одно вычитание.
Ответ
5.5511151231258⋅10−17
Как его читать
Остаток после 0.1 + 0.2 − 0.3. Вариант с двумя слагаемыми показывает 0.3, потому что дисплей округляет раньше, чем вы успеваете увидеть разницу.
Источник
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
Пересчитать в калькуляторе
Эти ссылки открывают подходящий калькулятор с уже введёнными числами этой задачи. Строка выше — то, что должен показать экран; проверьте сами.