Keinotekoisella hermoverkolla tarkoitetaan joukkoa hyvin yksinkertaisia prosessointiyksiköitä, joiden välillä on eri vahvuisia ja -laatuisia kytkentöjä, ja joiden tila, aktiivisuus, voi vaihdella kytkentöjen kautta kulkevan informaation (aktivaation) ansiosta. Kun jokin yksikkö aktivoidaan, sen aktiivisuus leviää kytkentöjen ominaisuuksista riippuen ympäröiviin yksiköihin, muuttaen niiden aktivaatiota [Bechtel ja Abrahamsen 1991]. Sekä hermosolut että aktivaatiomekanismi ovat keinotekoisilla hermoverkoilla voimakkaasti abstrahoituja aivojen vastaaviin nähden. Hermoverkon oppiminen tarkoittaa sitä, että jokin hermoverkon rakenteessa - yleensä kytkentöjen painot - muuttuu. Usein hermoverkon oppiminen tapahtuu Hebbin ehdotuksen mukaisesti siten, että kahden yksikön ollessa yhtä aikaa aktiivisia niiden välinen kytkentä vahvistuu [Hebb 1949].
Lähes yksinkertaisimmassa mahdollisessa hermoverkossa on kaksi
toisiinsa kytkettyä kerrosta hermosoluja, input- ja output-kerros.
Input-kerroksen aktiivisuudet määräytyvät ulkomaailmasta käsin, kuten
esim. aistinsoluilla, ja output-kerroksen solujen aktiivisuudet
riippuvat input-kerroksesta tulevasta aktivaatiosta. Kun hermoverkon
input-kerroksen soluja ''ärsytetään'', aktivaatio leviää verkossa
kytkentöjen voimakkuuksien mukaisesti, ja verkko lopulta asettuu
tasapainotilaan, jossa solujen aktivaatiot eivät enää muutu. Tässä
tilassa output-kerroksen aktivaatio kuvastaa verkon ''reaktiota''
kyseiseen syötteeseen [Bechtel ja Abrahamsen 1991]. Rosenblattin kehittämät kaksi-
ja useampikerroksiset
hermoverkot, joita hän kutsui
perceptroneiksi, olivat hieman tätä monimutkaisempia. Vuoteen 1956
mennessä Rosenblatt onnistui rakentamaan perceptroneja, jotka voitiin
opettaa tunnistamaan joitakin hahmoja (activation patterns,
input-kerrokselle syötetyt erilaiset aktivaatioyhdistelmät)
samankaltaisiksi, ja erottamaan ne toisista, erilaisista hahmoista
[s. 19]dreyfus.