|
Вопрос # 5 966/ вопрос открыт / |
|
Доброго времени суток, уважаемые эксперты!
ShowMessage(FloatToStr(230396.4-230396));
выдает в окно не 0,4 а 0,400000000000006
в чем может быть проблема?
 |
Вопрос задал: Sergey Iv (статус: Посетитель)
Вопрос отправлен: 26 февраля 2012, 15:11
Состояние вопроса: открыт, ответов: 1.
|
Ответ #1. Отвечает эксперт: Толяныч
Здравствуйте, Sergey Iv!
Проблемы никакой нет. Дело в том, что числа с плавающей точкой ( real, double ) в отличие от integer, могут быть представлены точно только в случае, если дробная часть есть сумма степеней 0.5 ( i1 * 0.5 + i2 * 0.25 + ... + in * 0.5^n , где i1,i2...in = 0 или 1 ). Так что если даже в привычном нам десятичном представлении чило представлено точно, например 3.1 , то при хранении оно преобразуется в бесконечную непериодическую двоичную дробь. Именно потому опытный программер никогда не напишет if a=b ( a и b типа real) а напишет if Abs(a-b)<0.0000001 ( точность выбирается достаточная для задачи ).
Рекомендую почитать хотя бы http://ru.wikipedia.org/wiki/Float
 |
Ответ отправил: Толяныч (статус: 4-ый класс)
Время отправки: 26 февраля 2012, 15:55
Оценка за ответ: 5
Комментарий к оценке: понятно. спасибо.
|
Мини-форум вопроса
Всего сообщений: 3; последнее сообщение — 29 февраля 2012, 20:57; участников в обсуждении: 3.
|
min@y™ (статус: Доктор наук), 27 февраля 2012, 08:18 [#2]:
Вот замечательная статья.
Делаю лабы и курсачи по Delphi и Turbo Pascal. За ПИВО! Пишите в личку, а лучше в аську. А ещё лучше - звоните в скайп!
|
|
Мережников Андрей (статус: Абитуриент), 29 февраля 2012, 20:57 [#3]:
используйте floattostrF(<число>,ffFixed,<длина>,<знаков после запятой>)
|
Чтобы оставлять сообщения в мини-форумах, Вы должны авторизироваться на сайте.
|
