많은 사람이 계산기가 부정확하다고 결론짓지만, 실제로는 표시 모드가 고정 소수 자릿수로 남아 있었을 뿐입니다. Fix 2는 1/3을 0.33으로 보여 주면서도 내부에는 더 높은 정밀도의 값을 유지하며, 여기에 3을 곱하면 표시된 값을 쓰는지 저장된 값을 쓰는지 따라 0.99 또는 1이 나옵니다.
세 모드를 가르는 차이
| 모드 | 의미 | 전형적 용도 |
|---|---|---|
| Fix | 고정된 소수 자릿수 | 금융; 실험 데이터를 정해진 자릿수로 보고 |
| Sci | 고정된 유효숫자 자릿수, 그 이상은 과학적 표기법으로 전환 | 물리·화학의 유효숫자 |
| Norm | 유효숫자에 따라 일반 표기 또는 과학적 표기를 자동 선택 | 일상 계산, 그리고 시험의 일반 기본값 |
대부분 빠지는 함정
정해진 자릿수로 보고할 때는 Fix가 괜찮습니다. 다만 계산을 이어 가기 전에 Norm으로 되돌리는 것을 잊지 마십시오. Fix 상태를 다음 문제로 가져가면 중간 결과가 일찍 잘리고, 오차가 마지막 단계에서 증폭됩니다.
계산기에서 사용해 보기
이 링크는 웹 도구를 엽니다. 글에서 특정 예시를 다뤘다면 도구가 그 예시를 이미 채운 상태로 열리므로, 주장을 그대로 믿는 대신 직접 확인할 수 있습니다.