Element Linear Adaptiv

Element Linear Adaptiv

model al neuronului [1]

Intrarea este un vector de impuls xn, compus din n caracteristici numerice. În interiorul neuronului, impulsurile sunt adăugate împreună cu unele greutăți wj. j = 1..n și dacă impulsul total S (x) = ^ n "/> depășește pragul de activare w0, atunci neuronul este excitat și dă o valoare a (x) = S (x) -w0.







Dacă adăugăm semnul impulsului manechinului x0 ≡ -1 și asociază greutatea w0 cu pragul de activare, atunci formula de ieșire Y (x) poate fi scrisă mai compact:
a (x) = (w, x). unde (w, x) este un produs scalar, w și x sunt vectori de greutăți și semne de impuls.

Instruirea ADALINE

Fie ca eșantionul de formare să fie dat: un set de valori de intrare X și un set de valori de ieșire Y. astfel încât la fiecare intrare xj să corespundă yj - ieșirea, j = 1..m. Este necesar să se bazeze pe aceste date ADALINE, care permite cel mai mic număr de erori pe acest eșantion de formare. Instruirea ADALINE este de a selecta valorile "cele mai bune" pentru vectorul de greutate w. Care este valoarea greutății determină mai bine pierderea funcțională. În ADALINE, funcția propusă de Widrow și Hoff este folosită, L (a, x) = (a - y) 2. Astfel, este necesar să minimizăm Q (w) funcțional.







Aplicăm metoda de coborâre a gradientului. atunci următoarea valoare va avea forma :, unde este rata de formare.

Schema de instruire ADALINE

  • - formarea eșantionului de elemente m
  • - rata de instruire
  • - parametru de netezire
  1. Inițializați greutățile;
  2. Inițializați estimarea inițială a funcției:
  3. repet:
    1. Selectați un obiect de la (de exemplu, la întâmplare);
    2. Calculați eroarea :;
    3. Faceți un pas de coborâre a gradientului;
    4. Estimați valoarea funcțională :;
  4. În timp ce valoarea nu se stabilizează și / sau greutățile nu vor înceta să se schimbe.

Comunicarea învățării ADALINE cu gradientul stochastic

Schema de formare ADALINE corespunde schemei de învățare a clasificatorului liniar prin metoda gradientului stochastic cu funcția de activare liniară φ (z) = z și funcția de pierdere patratică L (a, x) = (a - y) 2.







Articole similare

Pagina anterioară

Pagina următoare

Trimiteți-le prietenilor: