![]() |
#11 |
Участник
|
2 Hezl
------------------------------------ Дело не в точности - 9999.9999999999999 будет суммировать нормально ------------------------------------ Неудачный пример. Дело в том что Аксапта сначала округляет константы до приемлемого вида. В данном примере после компиляции 9999.9999999999999 будет рассматриваться виртуальной машиной как 10000. Можете проверить под отладчиком : real d = 9999.9999999999999; // реально заносится 10000. Поэтому с таким числом ошибок и не возникало. Реально работа шла с константой 10000. Я думаю то же самое при использовании числовых констант в выражениях. |
|
Теги |
баг, математика, округление |
|
![]() |
||||
Тема | Ответов | |||
Абстрактный классификатор | 52 | |||
Здравствуйте дети! :) - еще одна ошибка | 11 | |||
Просмотр SQL запросов к БД с помощью файла Log | 3 | |||
Виртуальные поля | 6 |
|