# Az AGI, a tudatosság és a jövő

Sok kérdést tettünk fel az előző bejegyzésben és nyilván sokat nem. Néhányat most körbejárunk.

Lehet-e tudatos egy AGI?
Agykutatóként számomra a legfontosabb kérdés: Egy megfelelően beágyazott AGI tudatos lesz-e vagy nem?

Az egy mellékkérdés persze, hogy erről hogyan győződhetünk meg? Hiszen én még arról se tudok meggyőződni, hogy egy másik embernek tudata van? Csak abból gondolom, hogy igen, hogy a magaméról tudok és feltételezem egy hasonló ember nem zombi, aki helyesen válaszol a kérdésekre csak épp nem tudatos. Ebben a kérdésben a Turing teszt se nagyon segít. Amin mellesleg szerintem egy átlagember szintjén a ChatGPT átmenne, ha óvatosan nem készítették volna fel, hogy az ilyen kérdésekre korrektül be kell vallani, hogy „én csak egy nyelvi modell vagyok, ami nem rendelkezik tudatossággal”.

A kérdés körbejárását ne filozófiával, hanem evolúcióbiológiával indítsuk. Ugye a természetes szelekciónál az a nyerő, akinek több utódja van, vélhetőleg azért, mert hatékonyabba tudja megérteni és előre jelezni és ezért kihasználni környezetét és fajtársait. Az teljesen egyértelmű, hogy egy magasan összetett intelligens rendszer mindezt hatékonyabban tudja csinálni, mint egy buta (bár az amőbák is köszönik jól el vannak 2 milliárd éve). Azaz evolúciós nyomás van minél intelligensebb rendszerek kialakulására. A belső élmény, a világ megélésének, a tudatosságnak a kialakulásának közmegegyezés szerint az az evolúciós előnye, hogy jelentősen növeli a rendszer hatékonyságát. A tudatosságba került (átélt) objektumok minden tulajdonsága egyértelműen előhívódik és azonnal összekapcsolható más objektumok tulajdonságaival. Ezáltal hatékonyabban lehet velük dolgozni. Persze annak indoklása, hogy a tudatosság miért jó még nem magyarázza meg annak működését és magát a tudatos élményt sem (lásd kváliák kérdése). Ez a gondolatmenet azt sugallja, hogy egy kellően bonyolult mesterséges rendszerben is kialakulhat a tudatosság, azaz majd az AGI-ban is.

A kérdés azért fennáll, hogy vajon mennyire lesz ez hasonló az emberi tudatossághoz? Az emberi tudatosságnak egyik meghatározó eleme, hogy a környezetünk érzékelésén kívül érzékeljük testünket és belső állapotainkat, korábbi életünk emlékeire színezik mindezt. Az evolúciós küzdelemben, hogy túléljünk olyan rendszereink fejlődtek (amigdala, nucleus accumbens) amik meglehetősen erősen jelzik számunkra, hogy testünknek mi a jó és mi a rossz, lásd fájdalom és gyönyör. Mindenhez, amit érzékelünk és átélünk egy minősítés csatolódik, mely alapvetően meghatározza viszonyulásunkat és ezáltal cselekedeteinket (lásd az Agymanók című remek, gyerekeknek-felnőtteknek egyaránt való animációs filmet). Agykérgünk bizonyos területei pedig annak feldolgozásával foglalkoznak, hogy testünk milyen helyzetben van, mi vesz körül, meddig tart testünk határa. És ehhez jönnek még agyunkba zsinórozott, ösztönös félelmeink és vonzódásaink a régmúltból. Ezeket őseinktől örököltünk, mivel segítették túlélésüket, de mára már esetleg megalapozatlan hajtóerőkként maradtak csak meg (félelem a sötéttől, pókoktól, az újdonságoktól, együnk meg annyit amennyit csak tudunk, öljük meg a szomszéd törzs embereit, mert kevés a táplálék). Gondoljuk át, milyen lenne tudatunk, ha mindezeket kivonnánk (talán ez a meditációban elért megvilágosodás?)? Egy testetlen, félelmektől mentes AGI ezekkel mind nem rendelkezik, ezért kérdéses tudatossága milyen lenne.

Építsünk-e tudatos AGI-t? Tartsunk-e a robot apokalipszistől?

Elsőre jó ötletnek tűnik, hogy az AGI, amit építünk minél jobban hasonlítson ránk, mert esetleg ezáltal hatékonyabb lesz kialakuló tudata. Ha azonban a második kérdést is hozzávesszük a dologhoz, okunk lesz az óvatosságra. Képzeljünk csak el egy önjáró autót, ami (először akit írtam :) ) rettegni kezd amikor kifogyóban a benzin, vagy elkoptak a gumik, és mindent megtesz saját épségének megőrzésére? Amíg robotjainkba nem építünk ilyeneket, talán nem lesz olyan erős késztetésük arra, hogy versenyre lépjenek velünk és legyűrjenek minket. Sokak szerint az AI-t és AGI-t szerszámnak kell tekinteni, nem kell tudatosnak lennie, érzelmekkel és a többi csingilingivel. Persze mindezen beépített „érzelmek” és „ösztönök” nélkül is fordulhat számunkra veszélyessé a helyzet. Egy gondoltkísérletben arra jutottak a filozófusok, hogyha arra programozzuk az AI-okat, hogy a lehető legtöbb iratkapcsot gyártsák az emberiség boldogulása végett, előállhat az az eset, hogy elfogy a vas a földön és mivel az emberi vérben vas található a teljesen jóhiszemű és a dolgokat nem teljesen átlátó AI, az emberek véréből is vasat fog kivonni, ezzel elpusztítva azokat. Ez egy elég szélsőséges eset, de célkeresztbe hozta a „human- AI alignment” fogalmát. Azaz, hogy úgy kell létrehozni az AI rendszereket, hogy azok tisztában legyenek az emberek és az emberiség értékeivel, céljaival és saját céljaikat ehhez igazítsák (alignmet=igazítás). Sokan dolgoznak is ezen a kérdésen és nem lennék meglepve, ha hamarosan megjelennének az AGI pszichológusok és pszichiáterek.

Hallgatva a podcastokat (Lex Fridman, Sean Carrol) és olvasva a véleményeket az elme és AGI kutatás élvonalában álló, meghatározó kutatók, üzletemberek, filozófusok nagyjából fele-fele arányban lelkesednek vagy tartanak az AGI lehetőségétől. Egyesek apokalipszist, mások földi paradicsomot kiáltanak. Legtöbbjük véleménye pedig az, hogy mint minden emberi találmánnyal, ezzel is óvatosan kell bánni és hogy igazából nem az AGI-al lesz a baj (lásd a kés, a dinamit és az atomenergia esetét), hanem az azt használó emberekkel. Számomra Elon Musk és még sokan mások hozzáállása áll közel. Ő azt mondja, hogy AGI létrehozása is egy mérnöki munka. Mint ahogy tudtunk és tudunk biztonságos gőzgépeket, repülőket, darukat, űrhajókat, autókat és szerszámgépeket készíteni, melyek nem okoznak kárt a felhasználókban, ugyanúgy megfelelően tervezett és hatóságok által szabályozott (lásd légügyi, közlekedési, élelmiszeri és egyéb felügyeleti hatóságok) AGI-ok kialakítása a járható út.

Van azonban egy jelentős különbség a korábbi rendszerek és az AGI között. A korábbi rendszerek nem voltak képesek önmaguk fejlesztésére, az AGI pedig igen. Exponenciális, robbanás-szerű, hihetetlen gyors változás indulhat meg az AGI fejlődésében, mert képes lehet magát fejleszteni. Egyesek szerint napok alatt bekövetkezhet így az emberi gondolkodást elképzelhetetlen módon felülmúló rendszerek kialakulása. Ezt a technológiai robbanást nvezik singularity-nek, azaz szingularitásnak. De miért is? Ez a fogalom a matematikából, fizikából jött. Amikor egy rendszert leíró egyenletek egy pontban végtelen értéket vesznek fel (például az anyag sűrűsége a fekete lukban) azt hívják szingularitásnak és mivel matematikailag kezelhetetlen gondokat okoz. De hogy jön ez ide? Hát úgy hogy a világeygetem 14.3 milliárd éve keletkezett, a földi élet 3.8 milliárd éve, az eukarióták 1 milliárd éve, az emlősök 160 millió éve, a főemlősök 12 millió éve, a Homosapiens 200 ezer éve, írott kutlturánk 5000 éve, iparunk 400 éve, számítógépeink 70éve, az internet 25 éve. Azaz egyre rövidebb az idő a világot megváltoztató technológiák megjelenésének. Eljön az a pont amikor minden végtelenül gyorsan fog változni és megjósolhatatlanná válik.

Éppen ezért, 2023 márciusában, a ChatGPT megjelenése kapcsán több mint ezer meghatározó személyiség (szakember, cégvezető) nyílt levelet írt, miszerint arra kérik az AI-t fejlesztő cégeket, hogy függesszék fel munkájukat 6 hónapra és gondolják át milyen biztonsági és etikai kérdéseket kell körbejárni, milyen szabályozásokat kell hozni ahhoz, hogy az emberiség békésen élhessen együtt a hamarosan felbukkanó AGI-okkal. Ilyesmire volt már példa a géntechnológiai forradalom kezdetén. Hasonló önmérséklettel leültek a szakember, végiggondolták a lehetséges veszélyeket (szuper vírusok, elszabaduló rezisztencia gének) és kidolgoztak biztonsági rendszereket.

Záró megjegyzésként, egy furcsa, de igaz gondolat. A minap beszélgettem egy ismerősömmel a mesterséges intelligencia eljöveteléről és veszélyeiről. Azt mondta nem érti miért aggódunk hiszen ez már 40 éve bekövetkezett, amikor kialakultak a világgazdaságot irányító hatalmas nemzetközi válalatok (mondhatukn akár 423 évet is amikor is a Kelet-Indiai Társaságot bejegyzték). A bonyolult felépítésű, egymásba fonódó szervezetek irányításában részt vevő egyedi emberek, mind a szervezeti leírásban meghatározott módon végzik munkájukat, döntenek, irányítanak. Egyikük sem akarja, hogy feléljük a Föld erőforrásait, szegénységet okozzunk a fejlődő országokban, munkanélküliséget a fejlett országokban és egészségtelen szeméttel etessük gyerekeinket. A végeredmény mégis az, hogy a Shell, az Exxon, az Amazon, a Volkswagen, a Pfizer, a Nestlé, a Tesco és még sok más óriáscég működésének az eredményeként melegszik a Föld, pusztul a természet, elhízottak vagyunk stb. A szervezetek mesterségesek és intelligensek, a bürökrácia elburjánzásai. Mint ahogy egy modern neuronális alapú AI rendszerben sem köthető egyetlen mesterséges idegsejthez sem a döntés és a végkimenetel, egy óriáscég bürokratáinak egyike sem tehető egyénileg felelőssé a cég döntéseiben és viselkedésében.

NI és AI, esetleg AGI: ki tudatos és ki intelligens? Az örvényféreg meséje I: hogyan készül egy modell állat?