Top.Mail.Ru
Мастера DELPHI, Delphi programming community Титульная страница Поиск, карта сайта Написать письмо 
| Новости | Поиск | FAQ | Статьи | Книги | Новости VCL |
| Форумы ЧАТ | Орешник | KOL и MCK |
Форумы -» Основная («Начинающим»)/ Базы / WinAPI / Компоненты / Сети / Media / Игры / Corba и COM / KOL / FreePascal / .Net / Прочее / RSDN.ORG

« предыдущая ветвь | форум | следующая ветвь »

Если я использую переменную типа double и его точно округляю допу


Юный_программер ©   (2003-01-24 19:25:00) 

Если я использую переменную типа double и его точно округляю допустим до 3 знаков и потом работаю с такими же числами (вычитание, сложение), не может случиться такого что округление четкое "скинется"?
извините за ламерский вопрос:-) очень надо.


PVOzerski   (2003-01-25 03:56:00) [1]

Если вычисления ограничиваются сложением и вычитанием, а возможно, и умножением, я бы взял round(x*1000) и работал как с целыми числами (если, конечно, попал бы в соответствующий диапазон :^) ). Потом результат разделил бы на 1000. Помимо большей точности, и считалось бы быстрее, если вычислений много.


Юрий Зотов   (2003-01-25 00:19:00) [2]

Не только может, но и обязательно "скинется". См. статью по ссылке MBo.


bis   (2003-01-24 20:59:00) [3]

операции сложения и умножения не являются замкнутыми для алгебры чисел, округленных до 3 знака.


MBo   (2003-01-24 19:40:00) [4]

http://delphi.vitpc.com/helloworld/reals.htm


Y   (2003-01-24 19:34:00) [5]

Наверное, может скинуться...


Наверх

Титульная страница Поиск, карта сайта Написать письмо