A visszacsatolás dicsérete: miért jobbak a visszacsatolt hálózatok?

2024. szeptember 6. péntek

Alaposan bemutattuk az agykéreg szerkezetét, rétegeit, információ áramlását, illetve, hogy miért van szükség a gátlósejtekre. Többször szerepelt a visszacsatolás kifejezés: „az agykérgi rétegek és sejtek kölcsönös, visszacsatolt kapcsolatokat alkotnak”, „a serkentő sejtek visszacsatolt kapcsolatai miatt a hálózatok túlaktiválódhatnak és az epilepszia elkerülésére aktivitásuk szabályozására az agykéregben számos gátlósejt csoport jelent meg”, „a visszacsatolt gátlás hatékonyan tartja szinten az idegsejthálózatok aktivitását”, stb.
Ez egy annyira fontos hálózati elem, hogy ebben a bejegyzésben alaposan körüljárjuk. Egy nagyon fontos hálózati tulajdonság, a magasabb rendű idegrendszerek működéséhez szükséges egyik alapelem.

Balra egy egyszerű előrecsatolt hálózat: a bemeneti és a kimeneti réteg között egy rejtett réteg található, de minden szint csak előrecsatolt kapcsolatokkal kapcsolódik a következőhöz. Jobboldalt egy igen egyszerű, visszacsatolásokat is tartalmazó hálózat látható. Ennek a példának is 3 rétege van, de a rejtett rétegen belül és a kimeneti rétegből a rejtett rétegbe visszacsatolt kapcsolatok is vannak.A visszacsatolás, rekurrencia, azt jelenti, hogy a hálózatban körkörös kapcsolatok vannak. Az alapoknál csak előrecsatolt hálózatokról beszéltünk. Itt beérkezik az információ, majd egymás utáni sejtrétegeken keresztül átkapcsolva kilép a hálózatból. A visszacsatolt hálózatokban, mint amilyen például az agykéreg, rétegeken belüli és rétegek közötti oda-vissza kapcsolatokat is látunk. A mozgástervezésben és gondolkodásban fontos agykéreg-striátum-talamusz-agykéreg hurokban számos visszacsatolás található.A sejtek vagy sejtek csoportjai nem csak tovább vetítenek más hálózatok felé, hanem az aktuális hálózaton belül is létesítenek (visszacsatolt, serkentő) kapcsolatokat. A következő szinten, a hamarosan terítékre kerülő hierarchikus hálózatokba kapcsolt agykérgi területek esetében is megjelenik majd a visszacsatolás, a hálózatok kapcsolódnak körkörösen vagy kölcsönösen.


A gátlósejtek szerepénél írtuk, hogy azért nagyon fontosak, mert megvédik a rendszert a serkentő sejtek pozitív visszacsatolása miatt kialakuló túlzott serkentéstől, az epilepsziától. Nyilván fontos lehet a visszacsatolás, ha ekkora rizikót vállal az agykéreg miatta. Az bizony, roppant fontos. Az összetett működéshez szükséges több információ feldolgozási elemet valósít meg.
A visszacsatolás fontosságát talán legjobban az emberi döntéshozatallal lehet szemléltetni. Egy bonyolult feladatot megpróbálhatunk megoldani magunkban is. Elmélkedünk rajta egy ideig, majd előállunk egy megoldással. Ez azonban nem biztos, hogy a legjobb lesz, mert nem feltétlenül veszünk figyelembe minden szempontot vagy nem találjuk meg a legjobb megoldást, megragadunk egy félmegoldásnál. Egy kerekasztal megbeszélésen mindenkinek az ötletét megvitatják, továbbfejlesztik. Jól működik a visszacsatolás.Nem véletlen, hogy bonyolult feladatokat az emberek megbeszélnek egymással. Valaki mond egy dolgot, erre reagálnak a többiek, kiemelik a hibát, újabb szempontot javasolnak. Ez alapján valaki továbblép, elmondja, a többiek reagálnak rá, tovább fejlesztik, a válaszaikkal csiszolják. Itt a visszacsatolás működik. Újabb elemek jelennek meg és épülnek be, illetve megjelenik a rekurzió / iteráció, azaz, hogy egy problémát újra és újra előveszünk, mindig kicsit más, fejlettebb formában, míg el nem jutunk a megoldáshoz. Egy összetett feladat megoldása még hatékonyabb, ha különböző, akár teljesen távoli szakterületek képviselői ülnek össze, hogy mindenki hozzáadja a maga szempontját. Persze ide is jól jön egy „gátlás”, például egy moderátor vagy vitaelnök formájában, hogy gátat vessen a végtelen vitáknak vagy megfékezzen egy narcisztikus örök beszélőt.


Mi jelentőset ad hozzá a visszacsatolás az agykérgi hálózatok képességeihez?


1)    Iterálás: egy döntés, gondolatmenet ismételt végrehajtása, kiértékelése. Az eredmény visszakerül a rendszerbe és újra kiértékelődik, míg meg nem születik egy jó megoldás. Ez működhet egy hálózaton (agykéreg modulon) belül, de modulok (részhálózatok) kölcsönhatása során is.
2)    Szupervízió (felügyelet), tanítás, kontextus adás: a hierarchikus hálózatokban a feldolgozás magasabb szintjein kialakult eredményt a visszacsatolás visszajuttathatja az alacsonyabb szintek felé, ezáltal segítheti egyrészt azok információ feldolgozását, másrészt azok tanulását, azáltal, hogy a helyes megoldás mintázatát bemutatja a tanuló hálózatnak. A figyelem is valahogy így működik, a magasabb rendű, figyelmet vezérlő hálózatok megadják a megfelelő kontextust, fókuszt, ami irányba az alacsonyabb hálózatnak el kell mozdulnia. Amin belül, aminek segítségével a megoldást kell megtalálnia.
3)    Fennmaradó (perzisztens), spontán aktivitás: a visszacsatolás azt is eredményezi, hogy egy ilyen hálózatba dobott információ (serkentő impulzus) tartós működést okoz, fennmaradó aktivitást vált ki. Ez egyrészt azt eredményezi, hogy aktuális bemenet nélkül is fejlődnek a mintázatok, feldolgozás zajlik és ha a tanulási mechanizmusok is működnek a hálózat fejlődik. Másrészt a fennmaradó aktivitás miatt a hálózatnak múltra emlékező belső állapota is lesz.

 

A képfelismerő hálózato és a ChatGPT mélyén lévő deep learning hálózatban nincsenek visszacsatolások, emiatt nincs belső állapota és saját aktivitása, csak a Jelenleg a mesterséges intelligencia által használt deep-learning hálózatok ugyan többszintűek, hierarchikusak, de nincs jelen bennük rekurrencia, elsődlegesen előrecsatolt hálózatok. Az egymáshoz kapcsolt hierarchiában jelen lehetnek visszacsatolások, de nem szerves részei ezeknek a modelleknek. Ennek egyik oka az, hogy itt ugye absztrakt idegsejteket használnak és a tanulás nem a hebb szabály, hanem a back-propagation alapján történik. A tanítás során az egyes kapcsolatok erőssége annak alapján változik, hogy mennyit kell változtatni a súlyokon ahhoz, hogy a kapott és az elvárt bemenet közelítsen egymáshoz. Ez egy visszacsatolt hálózat esetén technikailag nem működik. A visszacsatolás beépítéséhez alapvetően kellene megváltoztatni ezen hálózatok működését, de valószínűleg hatalmas előrelépést okozna az AI hálózatok működésében, hiszen a fenti 3 extrával lennének felszerelve.

Szerző: Gulyás Attila

Korábbi hozzászólások
Még nincsenek hozzászólások
Új hozzászólás
A hozzászólások moderáltak, csak az Admin jóváhagyása után jelennek meg!