| Новости | Поиск | FAQ | Статьи | Книги | Новости VCL | | Форумы ЧАТ | Орешник | KOL и MCK |
Форумы -» Основная («Начинающим»)/ Базы / WinAPI / Компоненты / Сети / Media / Игры / Corba и COM / KOL / FreePascal / .Net / Прочее / RSDN.ORG

	« предыдущая ветвь | форум | следующая ветвь »

Delphi ошибается? [D7, XP]

Peter Sai4in ©   (2008-09-29 23:59:00) 

Здавствуйте, решаю простую на первый взгляд задачу.
Дано число real нужно округлить с недостатком до тысячных, сотых, десятых.


function rounddown(a,d:real):real;
begin
  result:=trunc(a*d)/d;
end;


a - само число, d - показывает насколько округлять:
 то есть 1000 до тысячных, 100 - сотых и тд

Проблема в том, что для некоторых чисел, например 20,31
вместо ожидаемого
20,31
20,31
20,3
получаю
20,309
20,3
20,3

Это из-за погрешностей вычислений? Как бороться?

---

Amoeba   (2008-09-30 23:17:00) [1]

> Dimaxx ©   (30.09.08 19:43) [8]
>
> Забыл еще одно. Так прокатит только для типов double и extended.
> .. Real и single отпадают.
>

В Delphi уже давно Real=Double. Пора бы знать ...

---

Dimaxx   (2008-09-30 19:43:00) [2]

Забыл еще одно. Так прокатит только для типов double и extended... Real и single отпадают.

PS: Тьфу, код практически аналогичен [0]... Чего не бывает после тяжелого дня...

---

Dimaxx   (2008-09-30 19:41:00) [3]

Либо FormatFloat, либо так, если нужно использовать округленное число для дальнейших вычислений и т.п.

function RoundTo(R: extended; Decimals: integer): extended;
var Factor: extended;
begin
 Factor:=IntPower(10,Decimals);
 Result:=Round(Factor*R)/Factor;
end;

---

Anatoly Podgoretsky   (2008-09-30 11:28:00) [4]

> Peter Sai4in  (30.09.2008 0:19:02)  [2]

Резать самому ничего не надо. FormatFloat

---

Anatoly Podgoretsky   (2008-09-30 11:28:00) [5]

> Peter Sai4in  (30.09.2008 0:37:03)  [3]

Повезло

---

Германн   (2008-09-30 01:10:00) [6]

> ну обьясните в чем же тут разница

Ну как минимум разница в том, что вся операция в одном случае отдана на откуп компилятору и выполняется по его внутренним правилам. А во втором случае вся операция разбита на куски и в каждом куске на результат влияет смысл статьи АГ. :)

---

Peter Sai4in   (2008-09-30 00:37:00) [7]

Вот переписал исходный код так


function rounddown(a,d:real):real;
begin
  a:=a*d;
  a:=trunc(a);
  result:=a/d;
end;


и все работает, ну обьясните в чем же тут разница???

---

Peter Sai4in   (2008-09-30 00:19:00) [8]

Спасибо.
Эх, а решение казалось таким простым ))
Наверное, придется в строку число перевести и там уже резать его.

---

Amoeba   (2008-09-30 00:04:00) [9]

> Как бороться?

Читать вот это до полного просветления:
http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374

---

Наверх