Округление и точность до 15 значащих цифр в EXCEL

Причиной округления числовых значений может стать ограничение по точности принятое в EXCEL.

EXCEL хранит и выполняет вычисления с точностью 15 значащих цифр. Это проявляется, например, при записи в ячейку целого двадцатизначного числа.

После нажатия клавиши ENTER происходит округление целого числа до 15 значащих цифр, последние цифры заменяются нулями (см. Строку формул на рисунке ниже). Такое округление происходит без уведомления пользователя и поэтому может служить причиной появления ошибки.

Примечание : Если число знаков числа 12 или более, то к числу будет автоматически применен экспоненциальный формат (см. ячейку А1 на рисунке выше).

Таким образом, выполняя вычисления с числами порядка 1,0Е+16, не следует ожидать точности вычислений менее 100. Другими словами, не следует к триллиону (1,0Е+12) прибавлять ноль целых 3 тысячных (3,0Е-3). Результат все равно останется 1 триллион (см. Файл примера ).

Вывод : Реальные вычисления не должны быть у границы точности (необходимо нормировать значения на характерную величину).

СОВЕТ: Чтобы отобразить число с точностью более 15 значащих цифр потребуется ввести его в текстовом формате.

Лирическое отступление

На рисунке ниже можно видеть, что EXCEL выполняет вычисления с большей точностью, чем 15 значащих цифр.

При прибавлении к числу 12 345 678 912 345 600 (17 знаков) числа 50 (5 раз по 10) результат становится 12 345 678 912 345 700 (EXCEL округлил 12 345 678 912 345 650 до 12 345 678 912 345 700). Однако, это уже скорее экзотический случай.