Bấm 0.1 + 0.2; màn hình đáp 0.3. Bấm 0.1 + 0.2 − 0.3; nó đáp 5.5511151231258⋅10−17. Phép trừ mới là trung thực: tổng được lưu lớn hơn 0.3 vài đơn vị ở chữ số thập phân thứ mười bảy, và tổng thẳng chỉ trông đúng vì bản in làm tròn xuống ít chữ số hơn mức cần để lỗi tự lộ ra.
Cả 0.1 lẫn 0.2 đều không có dạng nhị phân trọn vẹn — chúng là những khai triển lặp như 1/3 trong thập phân — nên máy giữ giá trị biểu diễn được gần nhất của mỗi số, và hai phép làm tròn không triệt tiêu nhau. Đó là lý do tiền được xử lý bằng số xu nguyên, các phép thử bằng nhau trên số thập phân đã tính là một lỗi, và phần dư chỉ chừng 5.6 × 10⁻¹⁷ thay vì 2.2 × 10⁻¹⁶ mà epsilon máy tiên đoán: hai phép làm tròn, một phép trừ.
Đáp án
5.5511151231258⋅10−17
Cách đọc
Phần dư sau 0.1 + 0.2 − 0.3. Bản hai hạng in 0.3, vì màn hình làm tròn trước khi bạn thấy được chênh lệch.
Nguồn
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
Giải trong máy tính
Các liên kết này mở đúng máy tính với các con số của bài toán đã nhập sẵn. Dòng bên trên là những gì màn hình phải hiện — hãy tự kiểm tra.