짧은 대답
표준 계산기와 스프레드시트는 숫자를 64비트 부동 소수점 값으로 저장하며 자동 반올림되기 전에 약 15~17개의 유효 숫자만 유지합니다. 이 도구는 임의 정밀도 십진수 산술(유효 숫자 100개)을 사용하므로 거대한 정수는 근사치로 반올림되는 대신 숫자 단위로 정확하게 반환됩니다.
주요 시사점
- 64비트 부동 소수점(기본적으로 대부분의 계산기, 스프레드시트 및 프로그래밍 언어에서 사용됨)은 반올림이 시작되기 전에 약 15~17개의 유효 숫자를 차지합니다.
- 이 계산기는 100개의 유효 자릿수 정밀도를 유지합니다. 이는 암호화 규모의 정수, 큰 계승 및 천문학적 수치에 충분한 수준입니다.
- 거듭제곱 연산에는 절대값이 1000 미만인 정수 지수가 필요하므로 결과가 정확하고 계산 시간이 합리적입니다.
- GCD와 LCM은 정수에만 적합합니다. 이 두 연산에 대한 소수점 입력은 자동으로 반올림되지 않고 거부됩니다.
일반 계산기가 큰 숫자로 계산되는 이유
| 대표 | 유효숫자 | 한바퀴 돌기 시작합니다 |
|---|---|---|
| 32비트 부동 소수점 | ~7 숫자 | ~10 백만 |
| 64비트 더블(대부분의 계산기 및 스프레드시트) | ~15–17 숫자 | ~10¹⁶ |
| 이 계산기(임의 정밀도 십진수) | 100 숫자 | ~10¹⁰⁰ |
숫자가 해당 형식이 정확하게 나타낼 수 있는 범위를 초과하면 해당 값은 형식이 저장할 수 있는 가장 가까운 숫자로 반올림됩니다. 반올림은 대부분의 도구에서 경고 없이 자동으로 발생합니다. 두 개의 서로 다른 큰 숫자가 모두 동일한 부동 소수점 값으로 반올림되면 동일하게 표시될 수도 있습니다.
실제 예: 25 계승
25! = 15,511,210,043,330,985,984,000,000
표준 배정밀도 계산기는 이를 대략 1.5511210043330986 × 10²⁵로 반올림합니다. 이는 26자리 숫자 중 약 17자리만 정확하게 저장할 수 있으므로 해당 지점 이후의 모든 숫자는 근사치입니다. 이 계산기는 부동 소수점 대신 정확한 소수 연산을 사용하기 때문에 계승 함수는 반올림 없이 26자리를 모두 정확하게 반환합니다.
피해야 할 일반적인 실수
- 일반 스프레드시트 셀에 큰 숫자를 붙여넣고 표시된 모든 숫자를 신뢰합니다. 스프레드시트는 동일한 64비트 부동 소수점을 사용하고 ~15~17자리를 자동으로 반올림합니다.
- GCD 또는 LCM에 소수 값 입력 - 두 작업 모두 정수에 대해서만 정의되며 정수가 아닌 입력에 대해서는 오류를 반환합니다.
- 분수 또는 매우 큰 지수를 허용하는 검정력 기대 — 결과를 정확하게 유지하려면 지수가 1000 미만의 정수여야 합니다.
- 결과와 함께 표시되는 과학적 표기법 요약이 계산된 것이라고 가정합니다. 이는 둥근 표시 편의성입니다. 전체 정밀도 값은 계산기가 실제로 계산한 값입니다.
관련 계산기
- 과학적 표기법 계산기 — 표준 표기법과 과학적 표기법 사이를 변환합니다.
- 지수 계산기 — 일상적인 크기의 숫자에 대한 거듭제곱과 뿌리를 가지고 작업합니다.
- 최대공약수 계산기 — 전체 단계가 표시된 두 개 이상의 숫자의 GCD를 찾습니다.
- 최소 공배수 계산기 — 전용 단계별 도구를 사용하여 LCM을 찾아보세요.