Мастера DELPHI (документация, исходники, скачать)

Основная («Начинающим»)/ Базы / WinAPI / Компоненты / Сети / Media / Игры / Corba и COM / KOL / FreePascal / .Net / Прочее / RSDN.ORG

« предыдущая ветвь | форум | следующая ветвь »

Перенос данных из таблицы Dbase [D6, dBase, FoxPro]

Dmitiy © (2002-03-13 13:28:00)
Подскажите пожалуйста! Уже 3 дня бьюсь впустую! Вообщем ситуация такая:
переношу выборочно записи и поля из базы DBase /FoxPro// в DBase for Win путём перебора всех записей.
Потом пробегаю полученную таблицу от начала до конца и произвожу вычисления.
Когда сумма получается больше или меньше 0 всё нормально, но когда эта сумма равняется 0, получаю
примерно такой результат - 1,818988988Е-12. Причем если просмотреть эту таблицу в Database Desktop этот результат
будет равен 0,00. Помогите!

sniknik (2002-03-14 12:33:00) [1]
P.S. специально посмотрел NUMERIC (16,6) все одно два знака кажет.

sniknik (2002-03-14 12:28:00) [2]
А я в первый раз не то же самое говорил? "Не всегда если он округляет до 2 знаков"

Johnmen (2002-03-14 12:21:00) [3]
>sniknik © : просто Database Desktop показывает значения, приводя их к формату, соответствующему типу...

sniknik (2002-03-14 12:13:00) [4]
Кто ж спорит то естественно погрешность только не вычислений а исходных данных. Если выражение с одними и теми же даннными в 1000 случаях дает верный результат то оно верное. а 1001 (неправильный будет исключением). Я тогда замучился тогда исходные таблици просматривать (в Database Desktop) ну все одинаковое а результат разный. И только после того как подцепил их в Delphi увидел то что в Database Desktop видится как (например)
20.00
20.00
20.00
на самом деле может быть так
20.00
20.000001
20.00
понятно где будет экспонента? (с тех пор Database Desktop один из моих самых нелюбимых инструментов :)

Johnmen (2002-03-14 09:40:00) [5]
Это есть погрешность твоих вычислений !

Dmitiy (2002-03-14 03:53:00) [6]
Спасибо. Похоже больше наверное ничего и не придумаешь.

sniknik (2002-03-13 15:19:00) [7]
Не всегда если он округляет до 2 знаков а значение = 0,000000005 то в итоге значения разойдутся. У меня было похожая ситуация только я значения не переносил а вычислял и в некоторых полях получалась ахинея, утрировано у меня 1/1-1 в одном случае было 0 в другом чтото вроде твоего экспоненциального значения - 1,818988988Е-12 (это в принципе не ноль но очень близкое к нулю значение). Вышел из положения тем что после расчета конвертировал число в строку и обратно с отрезанием лишних цифр. (использовать round или truncate не мог т.к. все делалось в local SQL запросе) толко как конкретно уже не помню но надеюсь хоть направление подсказал.

gek (2002-03-13 13:50:00) [8]
Database Desktop показывает правильно.
Видимо ошибка в другом

Наверх

	« предыдущая ветвь \| форум \| следующая ветвь »