Vastavirta-algoritmi
Monikerroksisten perceptron-verkkojen opetus-menetelmä (Werbos 1974; Rumelhart, Hinton, Williams 1985; LeCun 1985; Parker (1985))
Ratkaiseva idea: korvataan porrasfunktio sgn jatkuva-arvoisella sigmoidilla, esim.
s(t) = 1/(1+e-t)
- verkon luokitteluvirhe opetusaineistolla (x1,y1),…,(xp,yp), määr.
on tällöin painokertoimien wij jatkuva funktio
- virheen minimointiin voidaan käyttää numeriikasta tunnettua gradienttimenetelmää
Menetelmän vaatimat laskutoimitukset voidaan tehdä kunkin neuronin kohdalla paikallisesti
- hajautettu ”oppimismenetelmä”