Форум QUIK [тема: Точность чисел с плавающей точкой.]

Точность чисел с плавающей точкой.

Mon, 13 Jul 2015 17:44:35 +0300

Точность чисел с плавающей точкой. в форуме Программирование на языке Lua.
еще раз повторю для любителей справочника:
float -действительное 4 байта. точность 7 значащих цифр.
double -действительное число с двойной точностью 8байт точность 15 значащих цифр, так как мантисса хранится в нормализованном виде
long double- длинное действительное 10 байт. точность 19 значащих цифр.
----------------------------------
Дополню. проблема скорее всего у Вас будет не с точностью(погрешностью), а с тем что перевод из десятичной формы в двоичную и обратно очень часто не может быть выполнен точно.
Поэтому давным давно для финансовых операций фирма IBM предложила и долго использовали двоично-десятичную математику в которой финансовые операции ( а на бирже лишь такие) всегда вычисляются точно.
Но это в прошлом.
13.07.2015 17:44:35, Николай Камынин.

Точность чисел с плавающей точкой.

Mon, 13 Jul 2015 08:24:01 +0300

Точность чисел с плавающей точкой. в форуме Программирование на языке Lua.

====quote====
s_mike@rambler.ru пишет:
вычисления все же лучше делать в double

=============
Про вычисления тоже хочется знать, я забыл спросить.

====quote====
Николай Камынин пишет:
Тип float - 7 значащих цифр. double -15 цифр.

=============
В справочнике написано, для long double и double точность

====quote====
не менее 10 значащих цифр.

=============
Реальная точность зависит от компилятора (возможно, от опций компиляции).

По-быстрому сварганил:

====code====

#include <stdio.h>
int main()
{
   printf("%.20f\n%.20f", 1.0/3.0, 1000+1.0/3.0);
   return 0;
}

=============
Резалт:

====quote====
0.33333333333333331000
1000.33333333333340000000

=============
вроде, 17 значащих цифр.

Буду double использовать.
13.07.2015 08:24:01, Некто.

Точность чисел с плавающей точкой.

Mon, 13 Jul 2015 06:45:55 +0300

Точность чисел с плавающей точкой. в форуме Программирование на языке Lua.
В данном случае следует учитывать не погрешность вычислений а дискретность (шаг дискретизации) значений(цены). Он указывается биржей для каждого инструмента свой.
Например, сербанк 0.01. при цене 100 имеем шаг дискретизации 1/10000 т е не более пяти значащих цифр.
Тип float - 7 значащих цифр. double -15 цифр.
Получаем, погрешность вычисления даже с типом float меньше шага дискретности в 100 раз.
----------------------------------------------------------------------------
Резюме, точность вычисления (величина обратная погрешности ) для биржевых цен идеальная.
Погрешность вычислений практически не влияет на величину прогнозируемых цен.
13.07.2015 06:45:55, Николай Камынин.

Точность чисел с плавающей точкой.

Sun, 12 Jul 2015 15:38:42 +0300

Точность чисел с плавающей точкой. в форуме Программирование на языке Lua.
Точность значения типа number в lua намного превышает. Разрядность цен любых инструментов. Волноваться тут не стоит.

Для хранения ohlc вполне достаточно типа float. Но вычисления все же лучше делать в double
12.07.2015 15:38:42, s_mike@rambler.ru.

Точность чисел с плавающей точкой.

Sun, 12 Jul 2015 14:00:10 +0300

Точность чисел с плавающей точкой. в форуме Программирование на языке Lua.
1. Какую точность для чисел с плавающей точкой обеспечивают переменные Lua?

2. Если надо будет передать переменную из скрипта на Lua в модуль, написанный на Си, то в переменных какого типа языка Си лучше хранить значения High, Low, Open, Close? Нужно использовать long double, или хватит double?
12.07.2015 14:00:10, Некто.