Здравствуйте дети! :) - DAX: База знаний и проекты

17.10.2004, 10:30

#33

domandr

Участник

190 / 5 (1)

Регистрация: 10.08.2004

Адрес: Москва

Цитата:

Изначально опубликовано mazzy
ну вы как маленькие.
перед любым использованием, перед возвратом из метода вызовите, до того, как показать пользователю вызовите метод округления.

А при вычислениях тоже округлять вещественные значения. Ведь давно известно, что Окр(X+Y+Z) != Окр(X) + Окр(Y) + Окр(Z)
Будут новые глюки.

Теги

баг, математика, округление

« Предыдущая тема | Следующая тема »

Похожие темы
Тема	Автор	Раздел	Ответов	Посл. сообщение
Абстрактный классификатор	Maxim Gorbunov	DAX: Программирование	52	17.01.2005 13:52
Здравствуйте дети! :) - еще одна ошибка	AKIS-Falcon	DAX: Программирование	11	20.10.2004 18:28
Просмотр SQL запросов к БД с помощью файла Log	Anton Sk.	DAX: База знаний и проекты	3	25.01.2002 16:31
Виртуальные поля	Oks	DAX: Функционал	6	03.01.2002 16:08

Ваши права в разделе
Вы не можете создавать новые темы Вы не можете отвечать в темах Вы не можете прикреплять вложения Вы не можете редактировать свои сообщения BB коды Вкл. Смайлы Вкл. [IMG] код Вкл. HTML код Выкл.