Felelősség, jogbiztonság és adatszivárgás a mesterséges intelligencia korában

A mesterséges intelligencia robbanásszerű fejlődésével a mindennapi munkafolyamatok részévé vált a különböző nyelvi modellek és automatizált rendszerek használata.

 A technológiai ugrás ugyanakkor komoly jogi kihívásokat és felelősségi kérdéseket vet fel, amelyek nemcsak a fejlesztőket, hanem a vállalkozásokat és a hétköznapi felhasználókat is közvetlenül érintik. A Spirit FM Mi és más című műsorában Márton György műsorvezető Dr. Dávid Péter AI, GDPR és Fintech szakjogásszal járta körül a témát, különös tekintettel az európai szabályozásra és a gyakorlati kockázatokra.

A jogi szakértő hangsúlyozta, hogy a nap végén minden esetben a felhasználó viseli a felelősséget azért a tartalomért vagy eredményért, amelyet kiad a kezéből. Legyen szó szerződésszerkesztésről, iratok áttekintéséről vagy egyéb sablonizálható feladatokról, a mesterséges intelligencia kiváló iránymutatást és támogatást nyújt, de nem működhet kontroll nélkül.

A válaszokat mindig egészséges, kritikus gondolkodással kell átolvasni és átdolgozni, mivel a rendszerek hajlamosak a hallucinációra vagy téves információk generálására. Nemzetközi példák is igazolják, hogy a bíróságok nem fogadják el védekezésként a chatbotok hibáit, a vállalatok teljes körűen felelnek az automatizált kommunikációs eszközeik által tett kijelentésekért.

Az európai uniós szabályozás alapvetően a természetes személyek védelmére és a jogbiztonság megteremtésére törekszik. Bár gyakran éri az a kritika az uniót, hogy a szigorú keretek lassítják az innovációt az amerikai vagy a kínai gyakorlattal szemben, a szakjogász szerint ez a megközelítés olyan szabadságot és biztonságot garantál, amely megvédi a polgárokat a visszaélésektől vagy a profilalkotásból eredő hátrányoktól.

Az uniós megközelítés kockázatalapú, és négy fő kategóriába sorolja a mesterséges intelligencia alkalmazásait.

• A tiltott kategóriába tartoznak az olyan súlyos alapjogsértésekre lehetőséget adó megoldások, mint a tömeges megfigyelés, a társadalmi pontozó rendszerek vagy a munkahelyi érzelemfelismerés, amelyekkel könnyen vissza lehetne élni.

• A magas kockázatú rendszerek közé sorolhatók például az online hitelminősítők vagy az olyan döntéstámogató modellek, amelyek jelentősen befolyásolják az egyének jogait. Ezen a szinten a jogszabály kötelező emberi beavatkozási pontot és rendszeres auditálást ír elő a modellek torzításának elkerülése érdekében. A fejlesztőknek ezeket a rendszereket egy közös európai uniós nyilvántartásba is be kell jelenteniük.

• A korlátozott kockázatú szintet a klasszikus chatbotok képviselik, ahol szigorú tájékoztatási kötelezettség áll fenn, a felhasználónak egyértelműen tudnia kell, hogy géppel kommunikál. A jövőben bevezetésre kerülő előírások értelmében az AI által generált digitális tartalmakat, például a módosított fotókat, jelöléssel vagy digitális vízjellel kell ellátni.

• A minimális kockázatú alkalmazásokra, mint amilyenek a streaming szolgáltatók ajánlórendszerei, nem vonatkoznak szigorú korlátozások.

A jogalkotás természetéből adódóan nehezen tart lépést a technológia gyorsuló ütemével. Az eredeti szabályozási keretek megalkotásakor a jogi szempontok domináltak, ami a gyakorlatban nehezen implementálható feltételeket szabott a mérnökök számára. Ennek feloldására született meg az a javaslatcsomag, amely igyekszik finomítani a szabályokon, enyhítéseket adni a kis- és középvállalkozásoknak, valamint kitolni a szigorú határidőket a fenntarthatóság és a piaci versenyképesség érdekében. Az Európai Unió továbbra is akkora piacot jelent, hogy a globális szolgáltatók kénytelenek uniókompatibilis, szuverén adatkezelési megoldásokat fejleszteni.

A vállalatok és a magánszemélyek egyik legnagyobb értéke a saját adatuk, legyen szó üzleti titkokról, know-how-ról vagy személyes információkról. A szakértő felhívta a figyelmet arra a komoly kockázatra, hogy az ingyenes és rendkívül hatékony eszközök használata során a felhasználók gyakran nincsenek tisztában azzal, hova kerülnek és mire használják fel a feltöltött adataikat.

A kis- és középvállalkozások esetében különösen elterjedt jelenség az úgynevezett Shadow AI, amikor a munkavállalók a saját szakállukra, ellenőrizetlenül használnak külső alkalmazásokat. Ha egy alkalmazott céges dokumentumokat vagy titoktartási szerződés hatálya alá eső ügyféladatokat tölt fel egy külső fordítóprogramba vagy nyelvi modellbe, azzal azonnali szerződésszegést és adatszivárgást követ el.

A biztonságos működés érdekében a cégeknek első lépésként fel kell mérniük a meglévő adataik struktúráját, és pontosan meg kell határozniuk az alkalmazni kívánt eszközök célját. Alaposan át kell tekinteni a licencszerződéseket, és tisztázni kell, hogy a szolgáltató felhasználhatja-e az adatokat a modell továbbfejlesztésére, valamint hogy a keletkező szellemi termékek joga kihez kerül. Mindezek mellett a legfontosabb lépés a munkavállalók folyamatos oktatása, hogy a technológia használata ne veszélyeztesse a vállalati biztonságot.

Teljes adás elérhető a Spirit FM YouTube oldalán.