Форум QUIK [тема: простое сложение с 0.01]

простое сложение с 0.01

Sun, 05 Mar 2017 12:09:30 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.

====quote====
Алексей написал:
Есть ли способ гарантированной работы с этими числами?
=============
Наверное так:
====code====

function NumEq(a, b)
    return math.abs(a - b) < 0.000001 -- Или использовать другое значение дельты?
end


a = 143.45 
b = a + 0.1

if NumEq(a, b) then

else

end

=============
05.03.2017 12:09:30, Constantin.

простое сложение с 0.01

Sun, 05 Mar 2017 08:57:34 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.
b = math.floor((a*1000)+100)/1000
05.03.2017 08:57:34, Николай Камынин.

простое сложение с 0.01

Sun, 05 Mar 2017 08:55:52 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.

====quote====
Алексей написал:
a = 143.45
b = math.floor((a*100)+10)/100
c = 143.55

=============
b = (math.floor(a*1000)+100)/1000
05.03.2017 08:55:52, Николай Камынин.

простое сложение с 0.01

Sat, 04 Mar 2017 12:45:11 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.
Все равно ничего не получается (
Вот например тут я прибавляю 0.1:
a = 143.45
b = math.floor((a*100)+10)/100
c = 143.55

В этом случае b не равно с. Если работаем с числами 123.45 и 123.55, то все работает. Умножаем на 1000 - работает. А будет ли оно со всеми числами работать, не могу понять ((
abs(a-с) так же не работает со всеми числами с плавающей точкой.

Есть ли способ гарантированной работы с этими числами?
04.03.2017 12:45:11, Алексей.

простое сложение с 0.01

Fri, 24 Feb 2017 15:24:52 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.
Constantin,

Ага - abs(), я как всегда небрежен. Спасибо за уточнение.
24.02.2017 15:24:52, валерий.

простое сложение с 0.01

Fri, 24 Feb 2017 12:14:02 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.
Выход:
====code====

math.abs(a - b) < delta

=============
тогда числа равны.
24.02.2017 12:14:02, Constantin.

простое сложение с 0.01

Thu, 23 Feb 2017 18:39:18 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.
валерий, огромное спасибо за столь развернутый ответ!
23.02.2017 18:39:18, Алексей.

простое сложение с 0.01

Thu, 23 Feb 2017 14:13:14 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.
Алексей,

Выход 1:
====code====

>> a = 130.01

a =

  130.0100

>> b = 130.02-0.01

b =

  130.0100

>> bb = floor(b*100)/100

bb =

  130.0100

>> a-b

ans =

  -2.8422e-14

>> a-bb

ans =

     0

>> a==bb

ans =

     1

=============

Выход 2:
====code====

>> a-b<0.01

ans =

     1

=============
23.02.2017 14:13:14, валерий.

простое сложение с 0.01

Thu, 23 Feb 2017 13:52:01 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.

====quote====
Алексей написал:
Недавно стал программировать на LUA и столкнулся со странной проблемой, собственно она в коде:
====code====

   function   OnInit ()  end 

 function   main ()   

a  =   130.01 
b  =   130.02  -  0.01 

 if  a =  = b  then 
 message ( "a равно b" )
 else 
 message ( "a не равно b" )
 end 

 end 

 function   OnStop ()  end

=============
Вот это все я просто запускаю из QUIK. И получается 130,01 не равно 130,01, это как?
=============

Это плавающая точка:

====code====

>> a = 130.01

a =

  130.0100

>> b = 130.02-0.01

b =

  130.0100

>> a-b

ans =

  -2.8422e-14

=============
23.02.2017 13:52:01, валерий.

простое сложение с 0.01

Thu, 23 Feb 2017 12:21:09 +0300

простое сложение с 0.01 в форуме Программирование на языке Lua.
Недавно стал программировать на LUA и столкнулся со странной проблемой, собственно она в коде:
====code====

function OnInit() end

function main()   

a = 130.01
b = 130.02-0.01

if a==b then
message("a равно b")
else
message("a не равно b")
end

end

function OnStop() end

=============
Вот это все я просто запускаю из QUIK. И получается 130,01 не равно 130,01, это как?
23.02.2017 12:21:09, Алексей.