Мастера DELPHI (документация, исходники, скачать)

Основная («Начинающим»)/ Базы / WinAPI / Компоненты / Сети / Media / Игры / Corba и COM / KOL / FreePascal / .Net / Прочее / RSDN.ORG

« предыдущая ветвь | форум | следующая ветвь »

проблема с числами или у меня :)

Гость_1 © (2007-07-22 18:19:00)
произвожу вычисление в калькуляторе:
1/87178291200 = 1,1470745597729724713851697978682e-11

тоже самое делаю в дельфи:
1/87178291200 = 1,14707455977297E-11

тип double, как добиться правильного вычисления, наверно точнее правильного округления, т.к. считает вроде правильно :) ???

Инс (2007-07-24 10:24:00) [1]
В орешник! :-D

l_v (2007-07-24 09:43:00) [2]

> наверно точнее правильного округления

так округляет тоже вроде правильно... :)

iXT (2007-07-24 09:31:00) [3]
Extended: 19-20 digits; 10 - Size of bytes;

Галинка (2007-07-23 00:43:00) [4]
Extended наверное нужен

Anatoly Podgoretsky (2007-07-22 19:02:00) [5]
Тебе нужны 128 битные вычисления

rubagl (2007-07-22 18:41:00) [6]
тип double имеет определенную точность и до точности калькулятора не дотягивает. Мне интересно стало зачем тебе такая высокая точность деления?

Наверх

	« предыдущая ветвь \| форум \| следующая ветвь »