0.1 + 0.2를 입력하면 디스플레이는 0.3으로 답합니다. 0.1 + 0.2 − 0.3을 입력하면 5.5511151231258⋅10−17로 답합니다. 정직한 것은 뺄셈 쪽입니다. 저장된 합은 소수 열일곱째 자리에서 0.3보다 몇 단위 위에 있고, 단순한 합이 맞아 보이는 것은 오차가 드러나는 데 필요한 것보다 적은 자리로 표시가 반올림되기 때문입니다.
0.1도 0.2도 정확한 이진 표기가 없습니다. 십진법의 1/3처럼 순환 분수이므로 기계는 둘 다 가장 가까운 표현 가능 값을 저장하고, 두 반올림은 서로 상쇄되지 않습니다. 그래서 돈을 정수 센트로 세고, 계산된 소수의 동등 비교가 잘못되고, 잔여물이 기계 엡실론 하나가 예측할 2.2 × 10⁻¹⁶이 아니라 약 5.6 × 10⁻¹⁷인 것입니다. 반올림 둘, 뺄셈 하나입니다.
답
5.5511151231258⋅10−17
읽는 방법
0.1 + 0.2 − 0.3 뒤의 잔여물입니다. 항 두 개 버전은 0.3을 보여줍니다. 차이를 보기도 전에 디스플레이가 먼저 반올림하기 때문입니다.
출처
0.1 and 0.2 are repeating fractions in binary; the residue is documented in the Python tutorial's floating-point section and in IEEE 754 itself
계산기에서 풀어 보기
이 링크는 이 문제의 숫자가 이미 입력된 알맞은 계산기를 엽니다. 위 줄은 화면에 표시되어야 하는 내용입니다. 직접 확인하세요.