Форум QUIK [тема: Ошибки вычисления с плавающей точкой в LUA.] http://forum.quik.ru Новое в теме Ошибки вычисления с плавающей точкой в LUA. форума на сайте Форум QUIK [forum.quik.ru] ru http://backend.userland.com/rss2 Fri, 10 Apr 2026 09:12:42 +0300 Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.
Есть прекрасная статья - ну кто хочет разобраться, конечно, а не готовый рецепт получить, а потом удивляться, почему он не работает у меня. (ответ: потому что не подходит)

http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374

Важно осознать что там вовсе не про дельфи. Всё описанное там не зависит от языка вообще, это особенность представления в двоичном компьютере (а других у нас нет) так называемых "чисел с плавающей точкой".

Для Lua - разумеется тоже подходит с той лишь поправкой, что в том Lua, который у нас есть в рамках QUIK,  у нас в принципе всего один тип числовых переменных, и это - Double.
22.06.2016 22:47:31, swerg.]]> http://forum.quik.ru/messages/forum10/message16946/topic1881/ http://forum.quik.ru/messages/forum10/message16946/topic1881/ Wed, 22 Jun 2016 22:47:31 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.
Скрытый текст

Денис, ====code==== 
nul = 0.000000001
function math.compare(x, y)
  return math.abs(x - y) < nul
end
=============
17.06.2016 22:54:59, Старатель.]]> http://forum.quik.ru/messages/forum10/message16835/topic1881/ http://forum.quik.ru/messages/forum10/message16835/topic1881/ Fri, 17 Jun 2016 22:54:59 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.

====quote====
Вячеслав + написал:
Уже спрашивал подобное.
https://forum.quik.ru/messages/forum10/message15026/topic1654/#message15026
Это проблема не Quik'а, а операций с плавающей точкой, и актуально это для всех низкоуровневых языков программирования
=============
это проблема не квик и не низкоуровневых языков, это проблема лишь дилетантов, а у знающих - это особенность хранения числе с плавающей точкой.
---------------------------------------------------------------------------------------------------
Денис,
читайте учебники, а не гордитесь собственным невежеством.
17.06.2016 18:57:45, Николай Камынин.]]> http://forum.quik.ru/messages/forum10/message16833/topic1881/ http://forum.quik.ru/messages/forum10/message16833/topic1881/ Fri, 17 Jun 2016 18:57:45 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.
Уже спрашивал подобное.
https://forum.quik.ru/messages/forum10/message15026/topic1654/#message15026
Это проблема не Quik'а, а операций с плавающей точкой, и актуально это для всех низкоуровневых языков программирования
17.06.2016 17:14:27, Вячеслав +.]]> http://forum.quik.ru/messages/forum10/message16825/topic1881/ http://forum.quik.ru/messages/forum10/message16825/topic1881/ Fri, 17 Jun 2016 17:14:27 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.

====quote====
Денис написал:
Садитесь, два и больше глупости не пишите.

Следующий после вас человек дал хороший ответ. Спасибо ему за это! Посмотрю как сравнивать с заданной точностью.
=============
Вообще-то это два ответа об одном и том же.
Но узнать (и осознать) это станет возможно только после следования первому совету.
17.06.2016 11:15:15, Imersio Arrigo.]]> http://forum.quik.ru/messages/forum10/message16806/topic1881/ http://forum.quik.ru/messages/forum10/message16806/topic1881/ Fri, 17 Jun 2016 11:15:15 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.

====quote====
Sergey Gorokhov написал:
Здравствуйте,
Числа с плавающей точкой нужно сравнивать с заданной точностью.
Это особенность типа данных, про которую в интернете очень много статей
=============
Спасибо!
17.06.2016 11:14:37, Денис.]]> http://forum.quik.ru/messages/forum10/message16805/topic1881/ http://forum.quik.ru/messages/forum10/message16805/topic1881/ Fri, 17 Jun 2016 11:14:37 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.

====quote====
Николай Камынин написал:

====quote====
Денис   написал:
Если более конкретно, берем цену из Квика, прибавляем шаг цены инструмента, сравниваем со следующей ценой, а они не равны.

Как вы боретесь с такой бедой?
=============
вообще-то, это простейшая задача для обучающегося программированию.
Посмотрите учебники по программированию,
оно конечно читать надобно.
=============
Вообще-то такое решение никому не интересно, писать собственный оператор для умножения чисел. Нафиг тогда нужен оператор умножения, если свой писать нужно. Интересуют естественно встроенные возможности языка. Садитесь, два и больше глупости не пишите.

Следующий после вас человек дал хороший ответ. Спасибо ему за это! Посмотрю как сравнивать с заданной точностью.
17.06.2016 11:13:53, Денис.]]> http://forum.quik.ru/messages/forum10/message16804/topic1881/ http://forum.quik.ru/messages/forum10/message16804/topic1881/ Fri, 17 Jun 2016 11:13:53 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.
Здравствуйте,
Числа с плавающей точкой нужно сравнивать с заданной точностью.
Это особенность типа данных, про которую в интернете очень много статей
17.06.2016 10:51:13, Sergey Gorokhov.]]> http://forum.quik.ru/messages/forum10/message16802/topic1881/ http://forum.quik.ru/messages/forum10/message16802/topic1881/ Fri, 17 Jun 2016 10:51:13 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.

====quote====
Денис написал:
Если более конкретно, берем цену из Квика, прибавляем шаг цены инструмента, сравниваем со следующей ценой, а они не равны.

Как вы боретесь с такой бедой?
=============
вообще-то, это простейшая задача для обучающегося программированию.
Посмотрите учебники по программированию,
оно конечно читать надобно.
17.06.2016 10:48:02, Николай Камынин.]]> http://forum.quik.ru/messages/forum10/message16801/topic1881/ http://forum.quik.ru/messages/forum10/message16801/topic1881/ Fri, 17 Jun 2016 10:48:02 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.
Если более конкретно, берем цену из Квика, прибавляем шаг цены инструмента, сравниваем со следующей ценой, а они не равны.

Как вы боретесь с такой бедой?
17.06.2016 09:00:15, Денис.]]> http://forum.quik.ru/messages/forum10/message16796/topic1881/ http://forum.quik.ru/messages/forum10/message16796/topic1881/ Fri, 17 Jun 2016 09:00:15 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.
Собственно проблемы практического плана возникают в таких местах: ====code==== 
124.4==(124.3+0.1)
============= Результат: false
17.06.2016 08:56:52, Денис.]]> http://forum.quik.ru/messages/forum10/message16795/topic1881/ http://forum.quik.ru/messages/forum10/message16795/topic1881/ Fri, 17 Jun 2016 08:56:52 +0300 Программирование на языке Lua Ошибки вычисления с плавающей точкой в LUA. Ошибки вычисления с плавающей точкой в LUA. LUA не может правильно посчитать 124.4 - 124.3? - Да ладно?! в форуме Программирование на языке Lua.
Нет, я все понимаю, деление или умножение чисел с плавающей точкой могут приводит к бесконечным десятичным дробям и соответственно ошибкам округления.

Но здесь! ====code==== 
x = tonumber(124.4 - 124.3);
============= Результат: x = 0.10000000000001

И что делать то?
17.06.2016 08:47:09, Денис.]]> http://forum.quik.ru/messages/forum10/message16794/topic1881/ http://forum.quik.ru/messages/forum10/message16794/topic1881/ Fri, 17 Jun 2016 08:47:09 +0300 Программирование на языке Lua