Materiale - rețele neuronale

Am descris fiecare neuron individual ca o înregistrare care conține toate părțile necesare:

  • Lista de coeficienți de ponderare pentru legăturile dintre neuron dat și toate neuronii stratului precedent (sau date de intrare, dacă este stocat în stratul neuron de intrare). Fiecare coeficient de ponderare este un număr real (1 coeficient de greutate pe neuron al stratului anterior)
  • Nivelul pragului (vezi mai jos) (a se vedea și nota traducătorului la sfârșitul capitolului)
  • Valoarea erorii. Folosit numai în stadiul de pregătire. Această valoare nu trebuie să fie legată de un neuron, am făcut acest lucru doar pentru citirea codului.
  • Schimbați eroarea. Utilizați și numai în timpul antrenamentului.

Iată descrierea neuronului:







Semnalul de ieșire al neuronului este stocat în câmpul a (așa-numita activitate a neuronului). Neuronul trebuie să răspundă la semnalul de intrare care trece prin conexiunile ponderate, calculând semnalul de ieșire. Pentru a converti semnalele de intrare la ieșire, este necesară o funcție.

Mai jos este o declarație a nodurilor care utilizează variabile. Constantele denotă numărul de neuroni din stratul de intrare, ascuns și de ieșire:

Funcții de activare (tranzitorie)

De-a lungul anilor, s-au folosit mai multe tipuri de funcții pentru a transforma semnalele de intrare în ieșiri. Cifrele de mai jos arată graficele celor mai frecvent utilizate. Orizontal - suma semnalelor de intrare (vezi mai jos), de-a lungul verticale - valoarea funcției. Toate funcțiile produc un rezultat în intervalul de la 0 la 1.

Funcție simplă pas cu pas. Valoarea funcției de activare este 1 pentru o sumă pozitivă a semnalelor de intrare sau 0 pentru o valoare negativă.

O funcție a cărei valoare este 0 pentru un argument negativ, cu un argument pozitiv, este proporțională cu argumentul (numai până la 1).

Așa-numitul sigmoid. Valoarea funcției tinde la 0 pentru valori negative mari, la 1 pentru cele mari pozitive, cu o tranziție netezită între cele două. Funcția sigmoidală este descrisă de ecuația:







Această funcție, se crede, descrie cel mai bine activitatea neuronilor cerebrali prezente și este cel mai adesea folosită în rețelele neuronale artificiale. Codul Pascal pentru această funcție este:

Cu toate acestea, funcția exp Pascal duce la o eroare în program dacă valoarea de intrare este în afara intervalului -39..38. Din fericire, acestea sunt atât de departe de originea pe care o putem presupune: cu argument <-39 значение функции равно 0, при аргументе> 38, - valoarea funcției este 1. Pentru a preveni eroarea, adăugăm câteva rânduri:

În practică, neuronii reali nu funcționează (nu emite semnalul de ieșire) până când nivelul semnalului de intrare ajunge la o anumită valoare de prag, adică intrarea neuronului primește suma semnalelor ponderate minus o anumită valoare. Valoarea obținută trece prin funcția de activare. Astfel, formula generală arată astfel:

Fiecare strat de neuroni se bazează pe ieșirea stratului anterior (cu excepția stratului de intrare, care se bazează în mod direct pe datele de intrare cerințele de rețea (cod -. Array test_pat) Aceasta înseamnă că valorile stratul de intrare trebuie să fie calculate în întregime înainte de a calcula valorile strat ascunse care, la rândul său, , trebuie calculată înainte de a calcula valorile stratului de ieșire.

Rețelele neuronale reprezintă valorile de activitate (câmpul a) ale neuronilor din stratul de ieșire. Programul care simulează activitatea rețelei neuronale, în procesul de învățare, le va compara cu valorile care ar trebui să fie la ieșirea rețelei.

De exemplu, în cazul în care rețeaua neuronală este utilizată pentru a determina o persoană ce etaj este încorporată în fotografie, este posibilă existența a doi neuroni din stratul de ieșire: pentru priza de sex masculin „M“ ar trebui să apară valoarea 1, iar ieșirea „F“ - 0. În consecință, la prezentarea fotografiei de rețea de sex feminin, neuronii week-end da valoare inversă ( „M“ = 0, „F“ = 1). În practică, în cazul în care producția „M“ - numărul de 0.0261, iar ieșirea „F“ - numărul de 0.9932, rețeaua prevede concluzia că fotografia - fața unei femei (valorile exacte de 1 sau 0, este aproape imposibil de a realiza).

Dacă știți deja greutățile într-un fel, atunci următorul capitol poate sări cu siguranță. În caz contrar, tot trebuie să începeți să învățați rețeaua și să rulați în noțiunea de erori de propagare înapoi.

O abordare oarecum diferită față de "pragul de nivel" este mai frecventă în literatură. Bowles folosește exact cuvântul „prag“ (prag), referindu-se la partea biologică a problemei (de exemplu, natura reală a neuronului). Literatura de specialitate utilizează în general un alt termen - „compensate“ (bias), ceea ce justifică necesitatea introducerii unei astfel de valoare matematic (curba prevăzută deplasarea generată în raport cu 0, și, prin urmare, o mai mare flexibilitate funcției). Această discrepanță, cu toate acestea, nu duce la dezacorduri fundamentale în implementarea și aparatul matematic.







Articole similare

Pagina anterioară

Pagina următoare

Trimiteți-le prietenilor: