Игорь (Все сообщения пользователя)

Выбрать дату в календареВыбрать дату в календаре

Страницы: 1
Проблема вычисления выражений с дробными числами, message(''..1.100-1.099) -----> 0.0010000000000001
 
Мне нужно чтобы выражения типа 1.0872-1.0871 давали точно 0.0001
0.5 добавляется на случай если выражение 1.0872-1.0871 вернет результат 0.00009999999999999999
Проблема вычисления выражений с дробными числами, message(''..1.100-1.099) -----> 0.0010000000000001
 
Ничего умнее не придумал для округления до 4 знаков:
math.floor(num * 10000+ 0.5) / 10000

Только жалко время на расчеты тратится..
Проблема вычисления выражений с дробными числами, message(''..1.100-1.099) -----> 0.0010000000000001
 
Смысл написанного Вами понятен.
Имею опыт программирования на других языках, и там как-то интерпретатор /компилятор справляются...
Какое типовое решение используется для "обхода" данной фичи, можете подсказать?
Речь идет об манипуляциях с bid и offer полученными через tonumber(getParamEx(class,sec,'bid ').param_value)  и имеющих 4 знака после запятой
Проблема вычисления выражений с дробными числами, message(''..1.100-1.099) -----> 0.0010000000000001
 
Здравствуйте.

Запускаю простейший скрипт:

message(''..1.100-1.099)  -----> 0.0010000000000001

Как так? Большое недоумение у меня...
Страницы: 1
Наверх