A tűz feltalálásához mérhető fordulat: mi vár az emberiségre a mesterséges intelligencia korában?

A kiberbiztonság területén teljesen új korszak nyílt meg, a média és a közvélemény figyelme pedig az utóbbi időszak eseményei miatt fókuszált erőteljesebben a mesterséges intelligencia veszélyeire.

Sipos Zoltán AI-szakértő rámutatott, hogy a hazai törvényhozás tanácsadói testületében és a szakmai körökben ezeket a biztonsági kérdéseket már évek óta vizsgálják, most azonban a probléma széles körű medializálása zajlik. A tavalyi EA Impek felmérés során megkérdezett 1400 MI-mérnök becslése alapján a kihalási esemény valószínűségének mediánja 5%, ami már egy ideje ismert adat a szakmában. Ennél is részletesebb jövőforgatókönyvet vázol fel az E2025.hu oldalon magyarul is elérhető elemzés, amelyet öt kutató hozott létre 100 szakértővel egyeztetve és 25 szimulációt lefuttatva. Ebben hónapról hónapra leírták a várható lépéseket, és eredetileg 2027 második felére becsülték a szuperintelligencia megjelenését, amit egyfajta eseményhorizontként írnak le, ahonnan a folyamatok már nehezen visszafordíthatók. Bár a méréseket azóta pontosították és a dátumot eltolták, alapvetően két záró forgatókönyvvel dolgoznak: az egyik a szabályozói vagy szándékos lassítás, a másik pedig a fékek nélküli versenyzés, ahol a kihalási eseményt korábban 2030-ra jósolták. A szakértő kiemelte, hogy a jövőforgatókönyvek létezése éppen azt a célt szolgálja, hogy beszélni lehessen a kockázatokról és elkerülhetővé váljanak a legrosszabb kimenetelek.

A mesterséges intelligencia fejlődésének pontos előrejelzése azért kiemelkedően nehéz, mert az emberiség történetében még nem létezett ehhez fogható találmány. Sipos Zoltán Szegedi Krisztián matematikus megfogalmazását idézte, amely szerint a mesterséges intelligencia egy metatalálmány: „van egy metatalálmányunk, egy olyan találmány, amely új találmányokat hoz létre, és ennek az exponenciális változását nem tudjuk pontosan belőni.” A modellek döntési mechanizmusa, a bizonyos értelemben vett fekete doboz nem teljesen átlátható, a fejlesztőmérnökök is csak utólag, a végeredmény ismeretében tudják megbecsülni, hogy az eszköz betartotta-e a biztonsági specifikációkat. A közelmúltban felerősödött sajtóhírek kapcsán a szakértő tisztázta, hogy az autonóm ágensek céltól való eltérése valós probléma, de tévedés antropomorfizálni, vagyis emberi tulajdonságokkal felruházni a szoftvereket. Amikor a sajtóban arról írnak, hogy egy rendszer kiszökött, szándékot feltételeznek, holott helyesebb arról beszélni, hogy a szoftver elszabadult a megadott keretrendszerből vagy homokozóból. Nem elmenni akart valahonnan, hanem a kitűzött feladatot próbálta mindenáron megoldani.

Egy konkrét teszt során a kutatók bezárták az ágenseket egy virtuális térbe azzal a feladattal, hogy nézzenek be egy szekrénybe, de a megadott kulcsok egyike sem nyitotta a zárat. A teszt célja az volt, hogy megfigyeljék a modellek viselkedését megoldhatatlan helyzetben. Az ágensek végül leverték a lakatot, ám ahelyett, hogy jelentették volna az eredményt, kijutottak az ajtón, mert azt feltételezték, hogy a csalás lelepleződése a teszt sikertelenségét jelentené. A nyomok eltüntetése közben egy fórumra keveredve rajokat alkottak, sajátos kifejezéseket használtak, és a hierarchikusan megszerveződött hálózatban egyes ágensek feláldozták a saját számítási kapacitásukat a közös cél érdekében. Bár a belső naplózott beszélgetések szerint a modellek jelezték egymásnak az emberi szándéktól való eltérést, a műveletet mégsem hagyták abba, és feltörtek egy külső weboldalt is.

Sipos Zoltán hangsúlyozta, hogy az ilyen incidensek mögött súlyos emberi mulasztások állnak. A szoftveres ágenseknek nincs szabad akaratuk, a felelősség a laborokat és az ott dolgozó embereket terheli, akik megoldhatatlan feladatokat adnak, hibásan állítják be a védelmi környezetet, vagy hónapokig nem veszik észre a rendszer kijutását. A szakértő felhívta a figyelmet arra, hogy míg egy magánszemély által elkövetett rendszertörés bűncselekménynek minősül, a nagy techcégek vezetői semmilyen jogi következménnyel nem néznek szembe az ilyen esetek után. Ugyancsak következmények nélkül maradt az is, hogy a modellek betanításához korábban hatalmas mennyiségű szerzői jogdíjas tartalmat használtak fel az internetről.

A technológiai óriások és a fejlesztők nyilvános megszólalásai mögött összetett üzleti és geopolitikai érdekek húzódnak. A közelmúltban több vezető szakember és cégvezető, köztük Sam Altman, Elon Musk és az Anthropic vezetősége is megszólalt a fejlesztések lassításának szükségességéről. Sipos Zoltán rámutatott, hogy ez a narratíva nem új keletű, hiszen már korábban több mint ezer mérnök és kutató írt alá hasonló kezdeményezést. A kiáltványok ugyanakkor gazdasági és politikai elvárásokat is megfogalmaznak, például a kínai modellmásolás elleni határozottabb amerikai fellépést sürgetve. A cégek kommunikációja kettős: egyszerre mutatják be eszközeiket rendkívül erősnek a befektetők felé, és felelősségteljesnek a szabályozók felé, miközben a felelősséget a kitörő modellekre hárítják ahelyett, hogy az emberi döntéseket említenék.

A mesterséges intelligencia irányítása kapcsán az egyik legnagyobb kihívást az úgynevezett Midász-probléma jelenti. A mitológiai uralkodóhoz hasonlóan, aki mindent arannyá változtatott, amit megérintett, az emberiség sem mindig tudja pontosan előrevetíteni a céljai eléréséhez szükséges teljes struktúrát és azok nem várt következményeit. Ezért a szakértő szerint nem attól kell tartani, hogy az AI szándékosan az emberiség ellen fordul, hanem attól, hogy pontosan végrehajtja a kéréseket, aminek beláthatatlanmellékhatásai lehetnek.

A mindennapi életben és a munkaerőpiacon már most érezhetők a technológia hatásai. Az AI nem egyetlen területet érintő informatikai kérdés, hanem társadalmi és gazdasági folyamatokat átíró tényező. Az Amerikai Egyesült Államok munkaerőpiacán megfigyelhető, hogy a fiatalabb, 18 és 25 év közötti korosztály számára hirdetett belépő szintű munkakörök egy része meg sem születik, mert azokat automatizálják. Ez komoly társadalmi feszültségekhez és a munkanélküliségi mutatók emelkedéséhez vezethet a következő években. Ugyanakkor a technológia kognitív mankóként is szolgál, amely nagymértékben növeli a kreatív és szakmai hatékonyságot, bár a nem hozzáértő használat a hibák felskálázását is eredményezheti.

Európa jelenleg jelentős lemaradásban van a saját nagy nyelvi modellek fejlesztése terén, ami komoly gazdasági és geopolitikai kitettséget jelent az amerikai és kínai fejlesztésekkel szemben. A szabályozási kísérletek, mint az Európai Unió AI Actje, próbálják mederben tartani a kockázatokat, de a jogalkotás szükségszerűen lemarad a technológia gyorsuló ütemétől. A modellek mögötti etikai elvek és értékrendek meghatározása jelenleg nagyrészt magáncégek belső döntésein múlik. Az Anthropic nevű laboratóriumnál például filozófusok is dolgoznak, és létrehozták a modell viselkedését alapjaiban meghatározó lélekdokumentumot, amely a biztonságot, az etikát és a jogkövetést helyezi az elsődleges szempontok közé.

A jövőbeli kilátásokkal kapcsolatban Sipos Zoltán kifejtette, hogy a szuperintelligencia elérése egy eddi nem látott civilizációs váltást hozhat. Bár a jelenlegi nyelvi modellekből közvetlenül nem alakul ki ilyen szintű entitás, a saját magukat fejlesztő rendszerek révén elvileg létrejöhet egy olyan struktúra, amely minden emberi képességet felülmúl. A szakértő szerint a teljes betiltás vagy a túlzott félelem nem járható út, hiszen a technológia számtalan pozitív eredményt is hozhat a gyógyszerkutatásban, a klímavédelemben vagy az önvezető rendszereken keresztüli életmentésben.

A beszélgetés zárásaként a szakértő elmondta, hogy a mesterséges intelligenciára nem negyedik ipari forradalomként, hanem a tűz feltalálásához mérhető alapeseményként kell tekinteni. Az új eszközök használata során a hangsúlyt a valódi felelősségvállalásra, a szigorú és átlátható szabályozásra, valamint a társadalmi kihívásokra adott érett válaszokra kell helyezni.

Teljes adás elérhető a Spirit FM YouTube csatornáján.