Форум QUIK [тема: Вопрос по ЛУА (округление)]

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 16:36:44 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
Как вариант:
====code====

local nul = 0.000000001
if math.abs(a - b) < nul then print('a == b') else print('a ~= b') end

============= или
====code====

if math.abs(a - b) < PriceStep*0.1 then print('a == b') else print('a ~= b') end

=============
05.03.2015 16:36:44, Серж.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 16:24:31 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Дмитрий пишет:
А то, какие выражения вы используете при сравнении этих чисел, никак не повлияет на Ваши дальнейшие вычисления, так как значения этих чисел в результате сравнения все равно не изменятся.

=============
Значения не изменятся, но мне нужно чтобы сами числа были такие, какие я для себя вижу, без дополнительных значений в n-цатом разряде.
05.03.2015 16:24:31, Максим.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 16:23:08 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Дмитрий пишет:

====quote====
Максим пишет:
но потом нужно делать арифметические операции, и вновь эта проблема всплывет

=============
А что мешает делать эти операции с исходными числами, без всяких преобразований?

=============
Мне нужно оценить, отличатся ли цена на шаг цены или более. Шаг цены 0.0001. допустим идет сравнение по разности текщей цены и текущего бида в стакане. Дополнительные разряды искажают инфу.

05.03.2015 16:23:08, Максим.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 16:06:59 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
А то, какие выражения вы используете при сравнении этих чисел, никак не повлияет на Ваши дальнейшие вычисления, так как значения этих чисел в результате сравнения все равно не изменятся.
05.03.2015 16:06:59, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 16:05:04 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Максим пишет:
но потом нужно делать арифметические операции, и вновь эта проблема всплывет

=============
А что мешает делать эти операции с исходными числами, без всяких преобразований?
05.03.2015 16:05:04, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 16:00:26 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Дмитрий пишет:
Выражение даже можно упростить:
qt.bid.price*PRICE_SCALE == math.floor(current_order_price_buy*PRICE_SCALE + 0.5)

=============

Дмитрий, для сравнения это подойдет, но потом нужно делать арифметические операции, и вновь эта проблема всплывет.
Я тут нашел функцию:

math.modf (x)
Возвращает два числа, Целую чать x и дробную часть x.

Как она возвращает дробную часть - я не совсем понял, но целую часть она возвращает хорошо). Если теперь записать так:
math.modf(qt.bid[i].price*PRICE_SCALE)/PRICE_SCALE==math.modf(current_order_price_buy*PRICE_SCALE)/PRICE_SCALE

то числа будут совпадать.
05.03.2015 16:00:26, Максим.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:24:54 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
Выражение даже можно упростить:
qt.bid[i].price*PRICE_SCALE == math.floor(current_order_price_buy*PRICE_SCALE + 0.5)
05.03.2015 15:24:54, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:23:02 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
Тогда Вам поможет следующий вариант, уже написанный мною выше:
math.floor(qt.bid[i].price*PRICE_SCALE) == math.floor(current_order_price_buy*PRICE_SCALE)
или правильней так, чтобы округление было по правилам математики, а не просто отсечение дробной части:
math.floor(qt.bid[i].price*PRICE_SCALE) == math.floor(current_order_price_buy*PRICE_SCALE + 0.5)

Michael Bulychev, подскажите, пожалуйста, а отдельной функции округления по правилам математики в Lua нет?
05.03.2015 15:23:02, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:15:25 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Дмитрий пишет:
Можно вместо tonumber(qt.bid.price)==tonumber(current_order_price_buy) попробовать написать
qt.bid.price == tostring(current_order_price_buy)

=============
Так тоже не проходит. нужно отрубить все разряды вплоть до 4-го после запятой
05.03.2015 15:15:25, Максим.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:13:35 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Максим пишет:
Здравствуйте!
Довольно чайниковский вопрос, но разобраться не могу.
Возникает проблема со сравнением двух чисел и арифметическими операциями.
Есть цена из стакана qt.bid.price=91.702700. И есть цена current_order_price_buy=91.7027 (визуально совпадают)
Однако их сравнение tonumber(qt.bid.price)==tonumber(current_order_price_buy) не происходит! При этом разность этих чисел равна diff=-1.4210854715202e-014
Как сделать так, чтобы они все же совпадали, т е какими видятся, такими были и фактически.

Спасибо

=============
Вот, например, как правильно сравнивать числа с плавающей точкой
05.03.2015 15:13:35, Michael Bulychev.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:12:42 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
Так наверное будет лучше:
====code====

math.floor(qt.bid[i].price*PRICE_SCALE) == math.floor(current_order_price_buy*PRICE_SCALE)

=============
05.03.2015 15:12:42, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:07:42 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
Можно вместо tonumber(qt.bid[i].price)==tonumber(current_order_price_buy) попробовать написать
qt.bid[i].price == tostring(current_order_price_buy)
05.03.2015 15:07:42, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:06:13 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
*PRICE_SCALE - это правильно. А зачем потом делить на эту же величину?
Лучше умножить на нее current_order_price_buy
05.03.2015 15:06:13, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:05:32 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Дмитрий пишет:
И кстати значение current_order_price_buy=91.7027 откуда берется? Если в результате какой-то арифметической операции, то разряды. дающие разницу между этими переменными, могут быть просто не видны, т.к. больше 6 разрядов после точки не отображается.

=============
Да, Вы верно говорите, мне кажется все дело именно в это переменной. А как просто взять и обрубить эти разряды?
05.03.2015 15:05:32, Максим.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:04:10 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.

====quote====
Дмитрий пишет:
А если умножать оба числа на 10000 перед сравнением ?

=============
Это делал
math.floor((math.floor(tonumber(qt.bid[i].price)*PRICE_SCALE)/PRICE_SCALE
В итоге получается число меньше: вместо 91.7027 получилось 91.7026
05.03.2015 15:04:10, Максим.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 15:02:10 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
И кстати значение current_order_price_buy=91.7027 откуда берется? Если в результате какой-то арифметической операции, то разряды. дающие разницу между этими переменными, могут быть просто не видны, т.к. больше 6 разрядов после точки не отображается.
05.03.2015 15:02:10, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 14:59:34 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
самое простое - убрать нули справа
05.03.2015 14:59:34, sam063rus.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 14:59:11 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
А если умножать оба числа на 10000 перед сравнением ?
05.03.2015 14:59:11, Дмитрий.

Вопрос по ЛУА (округление)

Thu, 05 Mar 2015 14:55:02 +0300

Вопрос по ЛУА (округление) в форуме Программирование на языке Lua.
Здравствуйте!
Довольно чайниковский вопрос, но разобраться не могу.
Возникает проблема со сравнением двух чисел и арифметическими операциями.
Есть цена из стакана qt.bid[i].price=91.702700. И есть цена current_order_price_buy=91.7027 (визуально совпадают)
Однако их сравнение tonumber(qt.bid[i].price)==tonumber(current_order_price_buy) не происходит! При этом разность этих чисел равна diff=-1.4210854715202e-014
Как сделать так, чтобы они все же совпадали, т е какими видятся, такими были и фактически.

Спасибо
05.03.2015 14:55:02, Максим.