| Форумы
ЧАТ |
Орешник |
|
| Форумы -» | Основная («Начинающим»)/ Базы / WinAPI / Компоненты / Сети / Media / Игры / Corba и COM / KOL / FreePascal / .Net / Прочее / RSDN.ORG |
|
| ||
|
|
Новости |
Поиск |
FAQ |
Статьи |
Книги |
Новости VCL
| | Форумы ЧАТ |
Орешник |
|
| |||
| |||
| |||
« предыдущая ветвь | форум | следующая ветвь »
сохранение ftFloat в поле Float MSSQL [D7, MSSQL]
Hollywood © (2004-02-12 18:37:00)
Сохраняю значение числа с плавающей точкой в поле таблицы MSSQL с типом Float:
Proc.Params.Items[9].AsFloat:= Value;
где
Proc: TStoredProc;
Value: Decimal;
так вот если Value:= 0.21
то в итоге в поле таблицы будет 0.20999999999999999
Как побороть????
Hollywood (2004-02-12 19:01:00) [1]
Не факт!
т.к.
251*0.20999999999999999*(1-0.5)= 26.3549999999999, если округлить до второго знака, то будет 26.35
теперь
251*0.21*(1-0.5)= 26.355 округлить, будет 26.36
чуствуете разницу????
Anatoly Podgoretsky (2004-02-12 18:56:00) [2]
Это правильное значение, ошибка 10^-20
| |
