# NI és AI, esetleg AGI: ki tudatos és ki intelligens?

Az utolsó két fogalom boncolgató bejegyzésben a természetes (natural=NI) és mesterséges (artficial=AI) intelligencia, valamint a tudattal kapcsolatos fogalmak viszonyát járjuk körül, belecsúszva a képzett találgatás és a filozófia határmezsgyéjébe.
A természetest és a mesterségest kb. értjük, de eddig nem tárgyaltuk, hogy mi is az intelligencia?

A Wikipédia szerint az a képesség, hogy megszerezzünk, megértsünk és alkalmazzunk új információt, tanuljunk és tudásunkat problémák megoldására célzottan használjuk, vagy egy rendszer használja. A fogalom az 1900-as évek elején formálódó behaviorista pszichológia szóhasználatában jelent meg és a viselkedési vizsgálatokban mérhető feladatmegoldási komplexitást jelezte. A behavioristák, a behavior = viselkedés alapján igyekezték megérteni a viselkedést. Nem foglalkoztak a mentális reprezentációval, gondolatokkal, érzésekkel, csak a feladatra adott választ vizsgálták. Nagyjából mindent és mindenkit automataként próbáltak értelmezni. Éppen ezért épp elég volt nekik, hogy ahhoz, hogy valami intelligens legyen, nem szükséges a világ átélése a tudatosság. A fenti elvárásoknak viszonylag egyszerű rendszerek is eleget tudnak tenni, egy egyszerűen viselkedő állat (Skinner dobozában a billentyűket nyomogató patkány, igaz az már meglehetősen bonyolult) vagy egy elektromos kütyü (kapunyitó, automata lámpa). De az 1950-es években, a kibernetika, robotika és számítástechnika kialakulásakor a fogalmat a mesterséges (artificial) jelzővel megtoldva az ember által alkotott összetettebb rendszereket, mint mesterséges intelligencia (MI, angolul AI) azonosították vagy igyekeztek megalkotni. A több gyökerű AI céljai között szerepeltek: érvelés, problémamegoldás, tudás reprezentáció, tervezés és döntéshozás, tanulás, nyelvfeldolgozás, percepció (ingerek megértése), társas intelligencia és végül a Szent Grál, az általános intelligencia (AGI). A célok változatosságának köszönhetően és az akkori szerény lehetőségek okán mindenki a maga módján és módszereivel építkezett. Speciális programnyelvek keletkeztek (LISP, Prolog) melyek fogalmak hálózatát tudták reprezentálni, feldolgozni és megtanulni. Ezeket érvelés, tudásreprezentáció, döntéshozás, nyelvfeldolgozás terén használták.

Mások idegsejtekre hasonló elemekből fizikai vagy software-rendszereken alapuló mesterséges neuronhálózatokat építettek (perceptron, két vagy többrétegű back-propagation), hogy a percepciót (az ingerek feldolgozását) tanulmányozzák.

A két megközelítést szimbolikus (fogalmi/jel alapú) és neuronális (idegsejt alapú) megközelítésnek nevezik és mint előbb láttuk más reprezentációs alapokon nyugszik, de mind a kettő hálózatokkal dolgozik. Ez a kettősség még sokszor visszaköszön majd az #agyséta során. A szimbolikus esetben a hálózatok csomópontjai fogalmak, melyeket kapcsolatok kötnek össze, a neuronális esetben a sejtek működési mintázata jelent dolgokat és a kapcsolatok alapján történik a mintázatok egymásba alakulása. A korai AI-t inkább a szimbolikus megközelítés jellemezte.

A kezdeti sikereket, a számítástechnika szerény képességei miatt, a 70es években egy hosszú megtorpanás követte, amikor is nem sok fejlődés történt, az AI lassan topogott előre. Ez egészen a 90es évek végéig tartott. A terméketlen időszakot „AI winternek”, azaz az a MI telének hívták.

A gyors olvadást a számítástechnikai kapacitás növekedése és számos matematikai megközelítés (lineáris algebra, kalkulus, valószínűség elmélet, Markov láncok, gráfelmélet) finomítása, kidolgozása hozta el. De a legnagyobb lépés az volt, hogy visszanyúlva az idegtudományokhoz az AI kutatók rájöttek arra, hogy ha korábbi egyszerű kétrétegű hálózataikat az agyban az agyterületek között megfigyelt többszintű kapcsolatrendszerek szerint másodlagos hálózatokból álló hálózatokba kapcsolják (a következő szerveződési szintre lépnek), akkor meglepően hatékony, új tulajdonságokat mutató neuronális alapú AI rendszereket kapnak. Ennek első nagy sztárja a Deep Learning volt. Deep, azaz mély, mert a felépülő hálózatoknak sok egymásra épülő rétege volt. A mai LLM-ek 3-5 nagyságrenddel múlják fel korai elődeiket. Egy perceptron 2-3-talán 5 réteggel rendelkezett és információtartalmát néhány kB-ban lehetett mérni. Egy szakértői rendszer maximum néhány tíz-száz kB lehetett. Ezzel szemben a ChatGPT 3.0 (mára elavult) 600 réteggel és több TB információval rendelkezik. Itt is szépen látszik az emergencia, az elemek és szintek növelésével minőségileg új tulajdonságok jelentek meg.

Az elmúlt egy évben (2023 szeptembert írunk a bejegyzés elkészültekor) még a csapból is ChatGPT folyt (Tudatos-e a ChatGPT4.0? Mikor találják az írók, művészek és kutatók az utcán magukat?), egy ideje közbeszéd tárgya az önvezető autókkal kapcsos kibernetikai-etikai problémák (kit üssön el? két öreg nénit vagy egy terhes anyukát, ha választania kell) és készüljünk-e a robot apokalipszisra (Skynet és Terminátor) vagy fognak-e belőlünk iratkapcsot csinálni, az amúgy jóhiszemű gépek (paperclip problem)?
Újabb Wenn diagramokon próbáltam meg ábrázolni, hogy a kérdések kapcsán felmerülő fogalmak hogyan fednek át és hogy ezeken a diagrammokon a tudatos és tudattalan agyak, rendszerek, az AI és az AGI hol helyezkedik el. Erre azért van szükség, mert az intelligencia, a tudatosság, én/öntudat és éberség/ingerelhetőség/válaszképesség egymástól részben független fogalmak.

Hogy a tudat nem minden vagy semmi jellegű arról az előzőekben beszéltünk. Az emberi tudatnak vannak állapotai, mint ahogy a különböző méretű és felépítésű agyakkal rendelkező élőlényeknek is vannak tudatfokozatai, hiszen csak agyuk bonyolultságának függvényében képesek átélni a világot. Éppen ezért a tudatnak csak egy bizonyos szintjén és szervezettségénél jelenik meg az ön/én-tudat (világos zöld terület a sötéteb zöldön belül). Az intelligencia (kék terület) mindkettőtől független. Egy tudatossághoz nem kellően bonyolult rendszer (pl. egy hangya) is lehet intelligens a maga módján, hiszen információt szerez meg, tesz magáévá és alkalmazza (elnézést kérek a hangyától, ha megtagadnám tőle a tudatosságot, lehet inkább egy fonálféreggel és a maga háromszázvalahány idegsejtjével kellene példálóznom). De tudatos rendszerek is viselkedhetnek nem intelligens módon, bár vélem ritkán. Az éberség-ingerelhetőség (pirossal jelölve) megint független az előzőektől. Elképzelhetők olyan tudatállapotok, amik nem válaszolnak a külvilágra (alvó, vagy Pokemon Go-t játszó emberek :), vagy olyan, nem tudatos rendszer, amelyik reagál a külvilágra (papucsállatka, termosztát).
És most jön a találgatás. Helyezzük el a fenti diagramon az emberi és állati elméket, a mesterséges intelligenciát és annak legmodernebb, robbanásszerűen fejlődő kiterjesztését a Nagy Nyelvi Modelleket (LLMs, Large Language Modells, BERT, GPT, XLNet, ALBERT, stb), melyek az AGI = artificial general intelligence, azaz az általános mestersége intelligencia (rövidíthetnénk mondjuk ÁMI-nak, TÁS nélkül) felé mutató legígéretesebb próbálkozások.
Sokan taglalják, hogy a mostani ChatGPT 4.0 és egyéb LLMek vagy ezek későbbi változatainál megjelent-e, meg fog-e jelenni a tudatosság?
Ha valaki engem kérdez én azt mondom, hogy a ChatGPT 4.0 (nagyon nagy valószínűséggel) nem tudatos és még sok idő telik el addig amíg tudatosságot mutató AGI-okat készítünk. Ennek megfelelően is helyeztem el a diagramon. De miért? A témával foglalkozók egy része egyetért abban, hogy az ember tudatosságának fontos eleme, hogy egy testben élünk, melyet az evolúció formált érzővé és esendővé. Elménk kialakulásának fontos hajtóereje volt, hogy környezetünk és testünk minden rezdülése befolyásolja annak működését, érezzünk fájdalmat, örömet, szomorúságot, félelmet. Egy mérnökök által tervezett AGI ilyenekkel (egyelőre) nem rendelkezik.
Kérdés persze hogy ha rendelkezne, akkor tudatos lenne-e? De ez csak az első kérdés a számos elméleti, gyakorlati, filozófiai, etikai, morális és biztonsági kérdés közül, mely az AGI kapcsán felmerül. Néhányat itt körbejárok, de ha valakinek még marad kérdése, tegye fel bátran!

A fordított kérdést is feltehetjük: Kell-e tudatosság, hogy elérjük az AGIt? Az is kérdés, hogy hogy ez jó ötlet lenne-e? Nem lenne veszélyesebb-kiszámíthatatlanabb egy érzelmekkel, fájdalmakkal, félelmekkel, örömekkel bíró tudatos AGI, mint egy tudattalan, „testetlen”? Egy nagyobb léptékű kérdés, hogy az emberiség számára áldás vagy átok lesz-e az AGI?
Folyt. köv.

Szerző: Gulyás Attila

Rendrakás az agy, elme és AI fiókjaiban II.: Agyi szószedet Az AGI, a tudatosság és a jövő