AXForum  
Вернуться   AXForum > Прочие обсуждения > Курилка
DAX
Забыли пароль?
Зарегистрироваться Правила Справка Пользователи Сообщения за день Поиск

 
 
Опции темы Поиск в этой теме Опции просмотра
Старый 22.04.2019, 09:34   #1  
Logger is offline
Logger
Участник
Лучший по профессии 2015
Лучший по профессии 2014
 
3,882 / 3148 (112) ++++++++++
Регистрация: 12.10.2004
Адрес: Москва
Записей в блоге: 2
Ну и в чем проблема ?
Это же везде такое будет не только в Excel

Посмотрите на это с другой стороны.
Максимальное число во вложении
144395647983495
ошибка -0,002812500

погрешность 2*10^-17
по-моему очень неплохой результат.

Если все же нужно копейки как-то ловить, то возможно поможет такой прием - напишите макрос - свою функцию суммирования.
а в ней перед суммированием сперва складывается самый большие по модулю числа.
Тогда получается точный 0.

пример во вложении
Вложения
Тип файла: xlsx 20190421_3.xlsx (13.9 Кб, 73 просмотров)
Старый 22.04.2019, 09:56   #2  
ta_and is offline
ta_and
Участник
 
226 / 122 (5) +++++
Регистрация: 26.02.2002
Адрес: СПб
Числа формируются в процессе выполнения программы.
Изменить порядок поступления чисел в суммирование нельзя.
только если навешивать дополнительный контейнер, в который собирать эти числа, ранжировать их и только потом суммировать.
В общем, проблема на ровном месте.
 

Похожие темы
Тема Автор Раздел Ответов Посл. сообщение
Программное распределение маленьких прямоугольников, в больших miklenew Курилка 10 20.06.2014 13:22
Глава Microsoft объявил о больших переменах Logger Курилка 1 11.07.2013 19:24
Ошибка при выходе из форума (Google Chrome) Zabr Обсуждение форума 15 25.09.2010 21:39
Ошибка Yoil Обсуждение форума 1 11.03.2006 13:57
Ошибка загрузки вложения AndyD Обсуждение форума 10 09.11.2005 22:04

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.
Быстрый переход

Рейтинг@Mail.ru
Часовой пояс GMT +3, время: 20:26.
Powered by vBulletin® v3.8.5. Перевод: zCarot
Контактная информация, Реклама.