Короткий ответ
Стандартные калькуляторы и электронные таблицы хранят числа в виде 64-битных значений с плавающей запятой, которые содержат всего около 15–17 значащих цифр перед автоматическим округлением. Этот инструмент использует десятичную арифметику произвольной точности — 100 значащих цифр — поэтому огромные целые числа возвращаются точными, цифра за цифрой, а не округляются до приблизительного значения.
Ключевые выводы
- 64-битное число с плавающей запятой (используемое большинством калькуляторов, электронных таблиц и языков программирования по умолчанию) достигает максимума около 15–17 значащих цифр до начала округления.
- Этот калькулятор сохраняет точность в 100 значащих цифр — этого достаточно для целых чисел криптографического масштаба, больших факториалов и астрономических цифр.
- Для операций со степенью требуется целочисленный показатель степени с абсолютным значением ниже 1000, что обеспечивает точность результатов и разумное время расчета.
- НОД и НОК имеют смысл только для целых чисел — десятичные входные данные для этих двух операций отклоняются, а не округляются автоматически.
Почему обычные калькуляторы не работают на больших числах
| Представительство | Значимые цифры | Начинает округляться вокруг |
|---|---|---|
| 32-битное число с плавающей запятой | ~7 цифры | ~10 миллион |
| 64-битный двойной (большинство калькуляторов и электронных таблиц) | ~15–17 цифры | ~10¹⁶ |
| Этот калькулятор (десятичный с произвольной точностью) | 100 цифры | ~10¹⁰⁰ |
Как только число превышает то, что может точно представлять его формат, значение округляется до ближайшего числа, которое может сохранить формат, — и это округление происходит незаметно, без предупреждения в большинстве инструментов. Два разных огромных числа могут даже отображаться одинаково, если они оба округлены до одного и того же значения с плавающей запятой.
Рабочий пример: 25 факториал
25! = 15 511 210 043 330 985 984 000 000
Стандартный калькулятор двойной точности округляет это значение примерно до 1,5511210043330986 × 10²⁵ — он может точно содержать только около 17 из 26 цифр, поэтому все, что дальше этой точки, является приблизительным. Поскольку этот калькулятор использует точную десятичную арифметику вместо чисел с плавающей запятой, функция факториал возвращает каждую из этих 26 цифр точно, без округления.
Распространенные ошибки, которых следует избегать
- Вставка огромного числа в обычную ячейку электронной таблицы и доверие к каждой отображаемой цифре — электронные таблицы используют одни и те же 64-битные числа с плавающей запятой и молча округляют последние ~ 15–17 цифр.
- Ввод десятичного значения для НОД или НОК — обе операции определены только для целых чисел и возвращают ошибку при нецелом вводе.
- Ожидается, что Power примет дробный или чрезвычайно большой показатель степени — показатели степени должны быть целыми числами меньше 1000, чтобы результаты были точными.
- Если предположить, что сводка в научных обозначениях, показанная рядом с результатом, — это то, что было вычислено — это удобство округленного отображения; значение полной точности — это то, что на самом деле вычислил калькулятор.
Сопутствующие калькуляторы
- Калькулятор научной записи — конвертировать между стандартными и научными обозначениями.
- Калькулятор экспоненты — работать со степенями и корнями над числами повседневного размера.
- Калькулятор наибольшего общего коэффициента — найдите НОД двух или более чисел с указанием полных шагов.
- Калькулятор наименьших распространенных кратных — найдите LCM с помощью специального пошагового инструмента.