http://forum.quik.ru Новое в теме Проблема вычисления выражений с дробными числами форума на сайте Форум QUIK [forum.quik.ru] ru http://backend.userland.com/rss2 Fri, 01 May 2026 10:49:39 +0300 Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.

====quote====
Игорь написал:
Ничего умнее не придумал для округления до 4 знаков:
math.floor(num * 10000+ 0.5) / 10000

Только жалко время на расчеты тратится..
=============
так будет быстрее:
0.0001*math.floor(num * 10000+ 0.5)  
26.04.2020 11:32:18, Николай Камынин.]]> http://forum.quik.ru/messages/forum10/message44077/topic5339/ http://forum.quik.ru/messages/forum10/message44077/topic5339/ Sun, 26 Apr 2020 11:32:18 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.

====quote====
Игорь написал:
Имею опыт программирования на других языках, и там как-то интерпретатор /компилятор справляются...
=============
Нигде не справляются, это фича чисел с плавающей точкой. На тех же сях то же самое, там просто в pfintf/sprintf/etc по дефолту режется до (не более чем) 6 знаков после запятой тем же способом, что вы привели, поэтому на первый взгляд кажется, что все точно. Посмотрите в интернетах, целые статьи как два дабла сравнить чтобы не было мучительно больно. Если нужно перфекционизьму, надо с ценами работать с фиксированной точкой, но в луа целых вычислений нет как таковых, так что ваш вариант вполне себе оптимальный (только не учитывает возможность отрицательного аргумента, в этом случае не в ту сторону округлите). О лишних вычислениях переживать незачем, там столько оверхеда по другим поводам, что это вообще никак не повлияет, даже если глубоко в цикл вложить.
25.04.2020 18:44:47, Anton.]]> http://forum.quik.ru/messages/forum10/message44067/topic5339/ http://forum.quik.ru/messages/forum10/message44067/topic5339/ Sat, 25 Apr 2020 18:44:47 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.
Мне нужно чтобы выражения типа 1.0872-1.0871 давали точно 0.0001
0.5 добавляется на случай если выражение 1.0872-1.0871 вернет результат 0.00009999999999999999
25.04.2020 17:54:03, Игорь.]]> http://forum.quik.ru/messages/forum10/message44066/topic5339/ http://forum.quik.ru/messages/forum10/message44066/topic5339/ Sat, 25 Apr 2020 17:54:03 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.

====quote====
Игорь написал:
Ничего умнее не придумал для округления до 4 знаков:
math.floor(num * 10000+ 0.5) / 10000

Только жалко время на расчеты тратится..
=============
с какой целью Вы это делаете?
В исходном варианте у Вас погрешность 0.0000000000000001
а в вашем - погрешность 0.00005 т е в 10000000000 раз больше.
Оно Вам надо?
----------------------
Вам "шашечки" или ехать?
25.04.2020 17:41:11, Николай Камынин.]]> http://forum.quik.ru/messages/forum10/message44065/topic5339/ http://forum.quik.ru/messages/forum10/message44065/topic5339/ Sat, 25 Apr 2020 17:41:11 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.
Ничего умнее не придумал для округления до 4 знаков:
math.floor(num * 10000+ 0.5) / 10000

Только жалко время на расчеты тратится..
24.04.2020 21:17:23, Игорь.]]> http://forum.quik.ru/messages/forum10/message44055/topic5339/ http://forum.quik.ru/messages/forum10/message44055/topic5339/ Fri, 24 Apr 2020 21:17:23 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.
Смысл написанного Вами понятен.
Имею опыт программирования на других языках, и там как-то интерпретатор /компилятор справляются...
Какое типовое решение используется для "обхода" данной фичи, можете подсказать?
Речь идет об манипуляциях с bid и offer полученными через tonumber(getParamEx(class,sec,'bid ').param_value)  и имеющих 4 знака после запятой
24.04.2020 20:00:34, Игорь.]]> http://forum.quik.ru/messages/forum10/message44050/topic5339/ http://forum.quik.ru/messages/forum10/message44050/topic5339/ Fri, 24 Apr 2020 20:00:34 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.
чтобы было точно надо исчислять в двоично-десятичном формате.
24.04.2020 19:48:17, Николай Камынин.]]> http://forum.quik.ru/messages/forum10/message44049/topic5339/ http://forum.quik.ru/messages/forum10/message44049/topic5339/ Fri, 24 Apr 2020 19:48:17 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.

====quote====
Igor Ankudinov написал:
Здравствуйте.

Запускаю простейший скрипт:

message(''..1.100-1.099)  -----> 0.0010000000000001

Как так? Большое недоумение у меня...
=============
комп исчисляет в двоичной
чел - в десятичной
из десятичной в двоичную и обратно не всегда можно точно.
вот и получаем приближенно.
-----------------------
24.04.2020 19:47:03, Николай Камынин.]]> http://forum.quik.ru/messages/forum10/message44048/topic5339/ http://forum.quik.ru/messages/forum10/message44048/topic5339/ Fri, 24 Apr 2020 19:47:03 +0300 Программирование на языке Lua Проблема вычисления выражений с дробными числами message(''..1.100-1.099) -----> 0.0010000000000001 в форуме Программирование на языке Lua.
Здравствуйте.

Запускаю простейший скрипт:

message(''..1.100-1.099)  -----> 0.0010000000000001

Как так? Большое недоумение у меня...
24.04.2020 19:23:21, Igor Ankudinov.]]> http://forum.quik.ru/messages/forum10/message44046/topic5339/ http://forum.quik.ru/messages/forum10/message44046/topic5339/ Fri, 24 Apr 2020 19:23:21 +0300 Программирование на языке Lua