Мастера DELPHI (документация, исходники, скачать)

Основная («Начинающим»)/ Базы / WinAPI / Компоненты / Сети / Media / Игры / Corba и COM / KOL / FreePascal / .Net / Прочее / RSDN.ORG

« предыдущая ветвь | форум | следующая ветвь »

Где можно прочитать про формат IEEE , дело в том , что дивайс [D3]

aha © (2008-01-20 21:58:00)
выдает три байта , ( я знаю по индикации какое число ) , а расшифровать не могу , вроде бы есть сноска , что формат ieee.
0 -> 00 00 00
1 -> 3F 00 00
2 -> 40 00 00
3 -> 40 40 00
4 -> 40 80 00
5 -> 40 A0 00
6 -> 40 C0 00
7 -> 40 E0 00
8 -> 41 00 00
9 -> 41 10 00

16 ->41 80 00
17 ->41 87 00
18 ->41 90 00
19 ->41 97 00

31 ->41 F7 00
32 ->42 00 00
33 ->42 04 00

.
.
.
.

han_malign (2008-01-21 15:45:00) [1]
полный диапазон не являтся степенью десяти...
$80000/$800000 = 0,0625
1,0625*16 = 17

aha (2008-01-21 00:14:00) [2]
почему то до 16 правильно работает , а далее какой то глюк

для 17 -> 41 88 00 00 ( по калькулятору и моему прибору все сходится )

по алгоритму мантисса равна 2 в степени 19= 524288 для
000 1000 0000 0000 0000 0000
Далее е=131-127=4
2 в степени 4 , умножаем 1,0524288 , равно 16.8368 , а вовсе не 17 . Где моя ошибка ?

aha (2008-01-20 22:29:00) [3]
спасибо за ссылку , кстати у меня ошибка была для единицы 3F 80 00
и младший байт в моем случае не используется видимо . А для чего такой сложный формат нужен ? Чтобы совсем запутать ? :-)

Сергей М. (2008-01-20 22:09:00) [4]
http://www.onembedding.com/info/float/

Сергей М. (2008-01-20 22:08:00) [5]
http://www.onembedding.com/tools/utility/fpconvert/

Наверх

	« предыдущая ветвь \| форум \| следующая ветвь »