VPM (Все сообщения пользователя)

function luann:getRMSE(predictions, expected)
   assert(#predictions == #expected, "ERR: #predictions ~= #expected")
   local numElements = 0
   local sum = 0
   for i=1, #predictions do
      -- for each set of predictions
      for j=1, #predictions[i] do
         -- for each output node
         numElements = numElements+1
         sum = sum + (expected[i][j]-predictions[i][j])^2--math.pow(expected[i][j]-predictions[i][j],2)
      end
   end
   local mse = sum/numElements
   return mse^0.5--math.sqrt(mse)
end

Если  err = 0.42

Results:
0 0 | 0.087963877174929
0 1 | 0.65479578845313
1 0 | 0.65514033859186
1 1 | 0.67301633908636
Saving network to: demoNetwork.dump
Results:
Output of 0,0: 0.087963877174929
Output of 0,1: 0.65479578845313
Output of 1,0: 0.65514033859186
Output of 1,1: 0.67301633908636
>Exit code: 0    Time: 1.544

Если  err = 0.41 и ниже

Current RMSE: 0.41082711758809
Current RMSE: 0.41051673305992
Current RMSE: 0.4104241333885
Current RMSE: 0.41037984366439
Current RMSE: 0.41035393431294
Current RMSE: 0.41033694994401
Current RMSE: 0.41032496576157
Current RMSE: 0.41031606177729
Current RMSE: 0.41030918840836
Current RMSE: 0.41030372375712
Current RMSE: 0.41029927605292
Current RMSE: 0.41029558629415
Current RMSE: 0.41029247643831
Current RMSE: 0.41028982008542
Current RMSE: 0.41028752503411
Current RMSE: 0.41028552245745
Current RMSE: 0.41028375994307
Current RMSE: 0.41028219687901
Current RMSE: 0.41028080131238
Current RMSE: 0.41027954776023
Current RMSE: 0.41027841565222
Current RMSE: 0.41027738820225
Current RMSE: 0.41027645157721
Current RMSE: 0.41027559427552
Current RMSE: 0.41027480665622
Current RMSE: 0.41027408057764
Current RMSE: 0.41027340911714
Current RMSE: 0.41027278635136
Current RMSE: 0.41027220718234
Current RMSE: 0.41027166719876
Current RMSE: 0.41027116256414
Current RMSE: 0.41027068992629
Current RMSE: 0.41027024634327
Current RMSE: 0.41026982922256
Current RMSE: 0.41026943627071
Current RMSE: 0.41026906545149
Current RMSE: 0.41026871495082
Current RMSE: 0.4102683831473
Current RMSE: 0.41026806858733
Current RMSE: 0.41026776996397
Current RMSE: 0.41026748609891
Current RMSE: 0.41026721592702
Current RMSE: 0.41026695848313
Current RMSE: 0.41026671289054
Current RMSE: 0.41026647835116
Current RMSE: 0.41026625413687
Current RMSE: 0.41026603958203
Current RMSE: 0.41026583407693
Current RMSE: 0.41026563706206
Current RMSE: 0.41026544802301
Current RMSE: 0.41026526648604
Current RMSE: 0.41026509201416
Current RMSE: 0.41026492420362
Current RMSE: 0.4102647626808
Current RMSE: 0.41026460709947
Current RMSE: 0.41026445713833
Current RMSE: 0.4102643124988
Current RMSE: 0.41026417290304
Current RMSE: 0.41026403809221
Current RMSE: 0.41026390782484
Current RMSE: 0.41026378187541
Current RMSE: 0.41026366003308
Current RMSE: 0.41026354210048
Current RMSE: 0.41026342789266
Current RMSE: 0.41026331723616
Current RMSE: 0.41026320996809
Current RMSE: 0.41026310593536
Current RMSE: 0.41026300499395
Current RMSE: 0.41026290700826
Current RMSE: 0.41026281185048
Current RMSE: 0.41026271940006
Current RMSE: 0.41026262954319
Current RMSE: 0.41026254217235
Current RMSE: 0.41026245718585
Current RMSE: 0.4102623744875
Current RMSE: 0.41026229398616
Current RMSE: 0.4102622155955
Current RMSE: 0.41026213923363
Current RMSE: 0.41026206482282
Current RMSE: 0.41026199228929
Current RMSE: 0.41026192156289
Current RMSE: 0.41026185257695
Current RMSE: 0.410261785268
Current RMSE: 0.41026171957563
Current RMSE: 0.4102616554423
Current RMSE: 0.41026159281316

local luann = require("luann2")
math.randomseed(89890)

learningRate = 0.2;  ---- set between 0, 1
local err = 0.42--01 ---- train until RMSE < 0.01
--------------------

---- create a network with 2 inputs, 3 hidden cells, and 1 output
myNetwork = luann:new({2, 3, 1}, learningRate, 'sigmoid')

local inputs = {
   {0,0}, {1,0}, {0,1}, {1,1}
};
local expectedOutputs = {
   {0}, {1}, {1}, {0}
};

---- train the network
myNetwork:train(inputs, expectedOutputs, err)

---- print the signal of the single output cell when :activated with different inputs
print("Results:")

print("0 0 | " .. myNetwork:forwardPropagate({0,0})[1])
print("0 1 | " .. myNetwork:forwardPropagate({0,1})[1])
print("1 0 | " .. myNetwork:forwardPropagate({1,0})[1])
print("1 1 | " .. myNetwork:forwardPropagate({1,1})[1])

---- Save the network to a file
luann:saveNetwork(myNetwork, "demoNetwork.dump")

--Load the network from a file
newNetwork = luann:loadNetwork("demoNetwork.dump")

---- run the loaded network
print("Results:")

print("Output of 0,0: " .. myNetwork:forwardPropagate({0,0})[1])
print("Output of 0,1: " .. myNetwork:forwardPropagate({0,1})[1])
print("Output of 1,0: " .. myNetwork:forwardPropagate({1,0})[1])
print("Output of 1,1: " .. myNetwork:forwardPropagate({1,1})[1])

---------------------------------
-- Fuzzy Operations
---------------------------------

-------------------------------------------------------------------------------
-- Tmin
-------------------------------------------------------------------------------
function tmin(a1,a2)
  if a2 < a1 then
    return a2
  else
    return a1
  end
end

-------------------------------------------------------------------------------
-- Tmax
-------------------------------------------------------------------------------
function tmax(a1,a2)
  if a2 < a1 then
    return a1
  else
    return a2
  end
end

-------------------------------------------------------------------------------
-- Tsum
-------------------------------------------------------------------------------
function tsum(a1,a2)
  --local y = a1 + a2
  return a1 + a2--y -- stop in one(limit)?
end

-------------------------------------------------------------------------------
-- Tprod
-------------------------------------------------------------------------------
function prod(a1,a2)
  return a1*a2
end

---------------------------------
-- Membership Functions (членство)
---------------------------------

-------------------------------------------------------------------------------
--[[-- Gaussian membership function
-- @param x Input value
-- @param params Table of parameters: 
--   - params[1] = standard deviation 
--   - params[2] = mean
-- @return The value of the pertinence
Гауссова функция принадлежности
- @ Параметров х Входное значение
- @ Параметров ПАРАМЕТРЫ Таблица параметров:
--- ПАРАМЕТРЫ [1] = стандартное отклонение
--- ПАРАМЕТРЫ [2] = средняя
- @ Возвращать значение уместности]]
-------------------------------------------------------------------------------
function gaussmf( x, params )
  return math.exp( -((x - params[2])^2)/(2*params[1]^2))
end

-------------------------------------------------------------------------------
--[[-- Trapezoidal membership function
-- @param x Input value
-- @param params Table of parameters(see chart below)
-- @return The value of the pertinence
--
-- pertinency
- Функция принадлежности трапецеидальной
- @ Параметров х Входное значение
- @ Параметров ПАРАМЕТРЫ Таблица параметров (см. таблицу ниже)
- @ Возвращать значение уместности
- уместность]]
--   ^
--   |
--   |  /2+++3\  
--   | /       \
--  -|1---------4-->x
-------------------------------------------------------------------------------
function trapmf( x, params)
  if x > params[1] and x < params[2] then
    return (x-params[1])/(params[2]-params[1])
  elseif x >= params[2] and x < params[3] then
    return 1
  elseif x >= params[3] and x < params[4] then
    return (params[4]-x)/(params[4]-params[3])
  else
    return 0
  end
end

-------------------------------------------------------------------------------
--[[-- Triangular membership function
-- @param x Input value
-- @param params Table of parameters(see chart below)
-- @return The value of the pertinence
--
-- pertinency
- Треугольные функции принадлежности
- @ Параметров х Входное значение
- @ Параметров ПАРАМЕТРЫ Таблица параметров (см. таблицу ниже)
- @ Возвращать значение уместности
- уместность]]
--   ^
--   |
--   |  /2\  
--   | /   \
--  -|1-----3-->x
-------------------------------------------------------------------------------
function trimf( x, params )
  if x > params[1] and x < params[2] then
    return (x-params[1])/(params[2]-params[1])
  elseif x >= params[2] and x < params[3] then
    return  (params[3]-x)/(params[3]-params[2])
  else
    return 0
  end
end

---------------------------------
-- Deffuzification Functions
---------------------------------

-------------------------------------------------------------------------------
-- Centroid deffuzyfication method
-- @param fs A fuzzyset with pairs of x and y like: fs[1].x, fs[1].y
-- @returm Return the geometric center value
-------------------------------------------------------------------------------
function centroid( fs )
  if #fs <= 1 then
    error('invalid number of fuzzyset entries')
  end
  local accxy = 0
  local accy = 0
  for i,v in ipairs(fs) do    
    if v.y > 0 then
      accxy = accxy + v.x*v.y
      accy = accy + v.y
    end
  end
  if accy > 0 then  
    return accxy/accy
  else
    return (fs[1].y-fs[#fs].y)/2
  end
end

---------------------------------
-- Fuzzy Inference System
---------------------------------

-------------------------------------------------------------------------------
 --[[-- Method to solve a fuzzy system
-- @param self The fuzzy system
-- @param ... A vararg list of input values
-- @return A vararg list of output values
Метод решить нечеткой системы
- @ Параметр self нечеткая система
- @ Параметр ... Список переменных аргументов входных значений
- @ Возвращать список VARARG выходных значений]]
-------------------------------------------------------------------------------
local function solvefuzzy( self, ... )
  local fuzzy = self
  local inpvals = {...}
  -- error check
  if #fuzzy.inps <= 0 then error('invalid number of inputs') end
  if #fuzzy.outs <= 0 then error('invalid number of outputs') end
  if #fuzzy.rules <= 0 then error('invalid number of rules') end
  -- solve each input
  for i,inp in ipairs(fuzzy.inps) do
    -- current input value
    local x = inpvals[i]
    
    -- error check
    if x > inp.mx or x < inp.mn then
      error('value ' .. x .. ' out of range for input \'' .. inp.name .. '\'')
    end
    -- save the current value of the function for each lingvar
    for _,lg in pairs(inp.lingvars) do
      lg.value = lg.mf( x, lg.params )
    end
  end

  -- for each rule...
  for ri,r in ipairs(fuzzy.rules) do
    --
    -- Errors Check
    --
    -- range errors check
    if #r.pres <= 0 then error('invalid number of premises') end
    if #r.imps <= 0 then error('invalid number of implications') end
    -- premises errors check
    for pi=1,#r.pres do
      if not fuzzy.inps[r.pres[pi].ifpart] then 
        error('invalid \'if part = '..r.pres[pi].ifpart..'\' for premise '..pi..' of rule ' .. ri) 
      end      
      if not fuzzy.inps[r.pres[pi].ifpart].lingvars[r.pres[pi].ispart] then
        error('invalid \'is part = '..r.pres[pi].ispart..'\' for premise '..pi..' of rule ' .. ri) 
      end
    end
    -- implications errors check
    for ii,imp in ipairs(r.imps) do
      if not fuzzy.outs[imp.thenpart] then 
        error('invalid \'then part = '..imp.thenpart..'\' for implication '..ii..' of rule ' .. ri) 
      end      
      if not fuzzy.outs[imp.thenpart].lingvars[imp.ispart] then 
        error('invalid \'is part = '..imp.ispart..'\' for implication '..ii..' of rule ' .. ri) 
      end      
    end
    -- connection function error check
    if not fuzzy[r.connmethod] then
      error('invalid \'connection method = '..r.connmethod..'\' for rule '..ri..'. (must be \'andmethod\' or \'ormethod\')') 
    end
    --
    -- Calculate the result value for a rule...
    --
    -- retrive the connection function
    local conn = fuzzy[r.connmethod]
    -- result value of premises
    r.value = fuzzy.inps[r.pres[1].ifpart].lingvars[r.pres[1].ispart].value
    -- for each premise...
    for pi=2,#r.pres do
      local v = fuzzy.inps[r.pres[pi].ifpart].lingvars[r.pres[pi].ispart].value
      r.value = conn(v, r.value)
    end
    --
    -- Calculate the resulting fuzzyset for each implication...
    --
    for _,imp in ipairs(r.imps) do
      -- retrive the out's table
      local out = fuzzy.outs[imp.thenpart]
      -- retrive the lingvar fr om the out table
      local lg = out.lingvars[imp.ispart]
      -- save the fuzzyset for each implication
      imp.fuzzyset = {}
      -- compute the step
      local step = (out.mx - out.mn)*fuzzy.step
      -- calculate the resulting fuzzyset
      for i=out.mn,out.mx,step do
        -- computes the mf value for i
        local lgval = lg.mf( i, lg.params )        
        -- compute the implication result
        local v = fuzzy.implicmethod( lgval , r.value )
        -- add the result to the fuzzy set
        table.insert( imp.fuzzyset, { x=i, y=v } )
      end
    end -- end implications
  end -- end rules
  --
  -- Computes output...
  --
  -- result table
  local outvals = {}
  -- solve each output
  for i,out in ipairs(fuzzy.outs) do
    -- clear previews fuzzyset
    out.fuzzyset = nil
    -- for each rule...
    for _,r in ipairs(fuzzy.rules) do
      --
      -- Aggregation
      --
      -- for each implication
      for _,imp in ipairs(r.imps) do
        if out.name == imp.thenpart then
          if not out.fuzzyset then
            out.fuzzyset = {}
            -- copy the first implication fuzzyset
            for k,v in ipairs(imp.fuzzyset) do
              out.fuzzyset[k] = { x=v.x, y=v.y }
            end
          else
            -- calculate the resulting fuzzyset with aggregation method
            for i,v in ipairs(out.fuzzyset) do
              -- computes the new value
              out.fuzzyset[i] = { x=v.x, y = fuzzy.aggregmethod( v.y, imp.fuzzyset[i].y ) }
            end
          end
        end
      end
    end
    --
    -- Defuzzification...
    --
    -- call deffuzyfication method
    out.value = fuzzy.defuzzmethod( out.fuzzyset )
    -- add output value to result table
    table.insert( outvals, out.value )    
  end

  return unpack( outvals )
end

---------------------------------
-- Fuzzy System
---------------------------------
--
-------------------------------------------------------------------------------
--[[-- Method to add a new linguistic variable to a fuzzy input or output
-- @param self The variable's table
-- @param name Name of the variable
-- @param mf The membership function
-- @param params Table of parameters of the membership function
-- @return The lingvar's table
Метод для добавления нового языкового переменной нечеткой входа или выхода
- @ Параметров самостоятельно таблице переменной
- @ Параметров имя Имя переменной
- @ Параметров MF функция принадлежности
- @ Параметров ПАРАМЕТРЫ Таблица параметров функции принадлежности
- @ Вернуться таблицу в lingvar в]]
-------------------------------------------------------------------------------
local function addlingvar( self, name, mf, params )
  local var = self
  local lg = {}
  lg.name = name
  lg.mf = mf
  lg.params = params
  var.lingvars[lg.name] = lg
  return lg  
end

-------------------------------------------------------------------------------
--[[-- Method to add a new input variable to a fuzzy system
-- @param self The fuzzy system table
-- @param name Name of the variable
-- @param mn Lower lim it of values
-- @param mx Upper limit of values
-- @return The variable's table
- Метод, чтобы добавить новую переменную ввода на нечеткой системы
- @ Параметров самостоятельно нечеткой системной таблицы
- @ Параметров имя Имя переменной
- @ Параметров млн. Нижний предел значений
- @ Параметров м Верхний предел значений
- @ Вернуться таблицу переменной]]
-------------------------------------------------------------------------------
local function addinp( self, name, mn, mx )
  local fis = self
  local inp = {}
  inp.name = name
  inp.mn = mn
  inp.mx = mx
  inp.lingvars = {}     
  inp.addlingvar = addlingvar  
  table.insert( fis.inps, inp )
  fis.inps[inp.name] = inp
  return inp
end

-------------------------------------------------------------------------------
--[[-- Method to add a new output variable to a fuzzy system
-- @param self The fuzzy system table
-- @param name Name of the variable
-- @param mn Lower limit of values
-- @param mx Upper limit of values
-- @return The variable's table
Метод для добавления нового выходной переменной к нечеткой системы
- @ Параметров самостоятельно нечеткой системной таблицы
- @ Параметров имя Имя переменной
- @ Параметров млн. Нижний предел значений
- @ Параметров м Верхний предел значений
- @ Вернуться таблицу переменной]]
-------------------------------------------------------------------------------
local function addout( self, name, mn, mx )
  local fis = self
  local out = {}
  out.name = name
  out.mn = mn
  out.mx = mx
  out.lingvars = {}     
  out.addlingvar = addlingvar  
  table.insert( fis.outs, out )
  fis.outs[out.name] = out
  return out
end

-------------------------------------------------------------------------------
--[[-- Method to add a new premise to a rule
-- @param self The rule's table
-- @param neg Flag to informe if the implication output should be negated
-- @param ifpart Name of the input variable
-- @param ispart Name of the linguistic variable of the input
-- @return The premises table
- Метод, чтобы добавить новое помещение, чтобы правило
- @ Параметров самостоятельно таблице в правиле
- @ Параметров нег Флаг, Informe если выход вывод следует быть сведены на нет
- @ Параметров ifpart Имя входной величины
- @ Параметров ispart Название лингвистической переменной входа
- @ Вернуть таблицу помещения]]
-------------------------------------------------------------------------------
local function addpremise( self, neg, ifpart, ispart )
  local rule = self
  local prem = {}
  prem.neg = neg
  prem.ifpart = ifpart
  prem.ispart = ispart
  table.insert( rule.pres, prem )
  return prem
end

-------------------------------------------------------------------------------
--[[-- Method to add a new implication to a rule
-- @param self The rule's table
-- @param neg Flag to informe if the implication output should be negated
-- @param thenpart Name of the output variable
-- @param ispart Name of the linguistic variable of the ouput
-- @return The implication's table--]]
-------------------------------------------------------------------------------
local function addimplic( self, neg, thenpart, ispart )
  local rule = self
  local impl = {}
  impl.neg = neg
  impl.thenpart = thenpart
  impl.ispart = ispart
  table.insert( rule.imps, impl )
  return impl
end

-------------------------------------------------------------------------------
--[[-- Method to add a new rule to a fuzzy sistem
-- @param self The fuzzy system
-- @param weight The weight of the rule
-- @param connmethod The connection method. (must be: 'andmethod' or 'ormethod')
-- @return The rule's table--]]
-------------------------------------------------------------------------------
local function addrule( self, weight, connmethod )
  local fis = self
  local rule = {}
  rule.weight = weight
  rule.connmethod = connmethod
  rule.pres = {}
  rule.imps = {}
  rule.addpremise = addpremise
  rule.addimplic = addimplic
  table.insert( fis.rules, rule )
  return rule
end

-------------------------------------------------------------------------------
-- Create a new fuzzy system
-- @return A new table with the fuzzy system
-------------------------------------------------------------------------------
function luafuzzy()
  -- create new table(создать новую таблицу)
  local fuzzy = {}
  
  -- and method
  fuzzy.andmethod = tmin
  
  -- or method
  fuzzy.ormethod = tmax
  
  -- implication method(метод Смысл)
  fuzzy.implicmethod = tmin
  
  -- aggregation method()
  fuzzy.aggregmethod = tmax
  
  -- deffuzification method
  fuzzy.defuzzmethod = centroid
  
  -- step used to compute a discrete fuzzyset(Шаг используется для вычисления дискретного fuzzyset)
  fuzzy.step = 0.01
  
  -- table os rules
  fuzzy.rules = {}
  
  -- table of inputs
  fuzzy.inps = {}
  
  -- tabla of outputs
  fuzzy.outs = {}
  
  -- method to add a new input
  fuzzy.addinp = addinp
  
  -- method to add a new output
  fuzzy.addout = addout
  
  -- method to add a new rule
  fuzzy.addrule = addrule
  
  -- method to solve the fuzzy inferece system
  fuzzy.solve = solvefuzzy
  
  return fuzzy
end

function List.new()
 --return {first = 0, last = -1}
 return {first = 0, last = 0}
end

local list=List.new()
local length=10; local M=1000--00--00
print("объем начального массива", M, "Кол. элементов в созданном length=",length);
local count1 = collectgarbage("count") -- получаем текущий размер памяти
------------------------------ LIFO
for i=1, M do

print(i, ')','Начальные индексы', 'list.first =', list.first, '; list.last =', list.last )

List.pushlast(list,i)
print(i, ')','Вставил', 'index list.last =', list.last,'; присвоил значение элементa =',list[list.last], '(',collectgarbage("count"),')' )

if i>length then
List.popfirst(list)
print( i, 'Операция - Удаление первого:', ')', 'присвоил индекс первоve элементу =', list.first, 'вернул значение первого элементa =', list[list.first] ,'(',collectgarbage("count"),')' ) --, list.first
end

end
print("LIFO (вариант реализации стека с помощью двусторонней очереди.) ----------------------");
print("начальный объем занятой памяти",count1);

print("число элементов в LIFO list после "..(M).." циклов функции рор=" ..(list.last-list.first))
local countOUT = collectgarbage("count")
print("объем занятой памяти",countOUT);
--------------------------------
collectgarbage("collect")
print("объем занятой памяти после сборщика мусора",collectgarbage("count"));