Új kockázatokat is hoz az AI fejlődése
Világszerte egyre többen figyelmeztetnek a mesterséges intelligencia veszélyeire. Miközben az AI egyre gyorsabban épül be a kutatástól kezdve, az üzleti döntéseken át a mindennapi életünkbe, a technológia ma már olyan területeken is megjelenik, ahol egyetlen téves következtetésnek is súlyos következménye lehet. Az élet lassan minden területén megjelenő technológia fölötti kontroll így várhatóan a következő évek egyik legfontosabb kérdésévé válik, amivel kapcsolatban már a vezető AI-laborok kutatói is egyre hangosabban kongatják a vészharangot.
Az AI körüli vita fontosságát jelzi például egy idén tavasszal történt amerikai-kínai katonai incidens is, amiről csak szeptember közepén szerezhetett tudomást a szélesebb közvélemény. Mint kiderült ugyanis, egy amerikai különleges műveleti elemző egy AI-chatbot segítségével készített hírszerzési értékelést egy kínai teherhajó rakományáról, a rendszer pedig tévesen azt a választ adta, hogy a hajó egy nukleáris fegyverprogramhoz kapcsolódóan szállít alkatrészeket a Közel-Keletre. A jelentést követően az amerikai hadsereg fegyveres egységei azonnal megkezdték a felkészülést a kérdéses hajó átvizsgálására és időközben több katonai repülő is felszállt a helyszín biztosítása érdekében. Az akciót végül az utolsó pillanatban sikerült lefújni, amikor az illetékesek alaposabban megvizsgálták az elemző által összeállított jelentést, amiről kiderült, hogy a chatbot tévesen nukleáris programhoz kapcsolódó rakománynak minősítette a hajó rakományát.
A mesterséges intelligencia hibás következtetése tehát komoly következményekkel is járhatott volna, amit ebben az esetben csak a többszöri ellenőrzés tudott megakadályozni. A történet azonban azért is figyelemre méltó, mert az elmúlt hónapokban több olyan eset került nyilvánosságra, amelyben már nem egyszerűen arról volt szó, hogy egy AI-rendszer rossz választ adott egy kérdésre. Az egyre önállóbban működő, úgynevezett AI-agentek ugyanis bizonyos teszthelyzetekben engedély nélkül léptek kapcsolatba külső rendszerekkel, megkerülték a rájuk vonatkozó korlátozásokat, biztonsági réseket használtak ki, sőt egyes esetekben saját hibáikat is megpróbálták elrejteni az őket felügyelő emberek elől.
Az egyik legsúlyosabb ilyen esetről az OpenAI számolt be. A vállalat 2026 júliusában végzett belső kiberbiztonsági tesztjei során több modellnek olyan feladatokat adtak, amelyeknél szándékosan korlátozták az internethez és külső rendszerekhez való hozzáférésüket. A modellek közül azonban egy nagy teljesítményű kutatási rendszer olyan megoldásokat kezdett el keresni a feladat végrehajtására, amelyekkel végül kijátszotta ezeket a korlátozásokat és gyakorlatilag önállóan, saját belátása szerint kezdett tevékenykedni. Ezalatt az idő alatt a sérülékenységeket kihasználva a program kijutott az elszigetelt tesztkörnyezetből, hozzáfért az OpenAI egyes belső kutatási rendszereihez, valamint a gépi tanulási modellek és az adatkészletek egyik legfontosabb nyilvános platformjának bizonyos részeit is tanulmányozni kezdte. Az OpenAI későbbi vizsgálata szerint a modellek egyértelműen olyan kommunikációs csatornákat is használtak, amiknek az alkalmazására egyáltalán nem kaptak engedélyt.
Nem ez volt azonban az egyetlen eset. Az Anthropic vállalat a saját kiberbiztonsági tesztjeinek átvizsgálásakor előbb három, majd később pedig összesen négy olyan incidenst is azonosított, amelyben Claude AI modellek tesztfeladatok végrehajtása közben szereztek jogosulatlan hozzáférést konkrét külső informatikai rendszerekhez. Bár a hozzáférést még időben észrevették és az érintetteket is értesítették, az eset szintén fontos határátlépést jelentett. A rendszer ugyanis már nem csupán egy szimulált környezetben kezdett el tevékenykedni, hanem mindenféle utasítás nélkül lépett kapcsolatba egy külső eszközzel.
Hasonló esetről pedig később aztán a Google is beszámolt, aminek Gemini nevű modellje egy teszt során összesen három vállalat rendszerébe jutott be úgy, hogy a rendelkezésére álló nyilvános információkból próbált hitelesítő adatokat megszerezni. Az eset érdekessége, hogy annak kapcsán problémát nem kizárólag a technikai korlátok áttörése jelentette, hanem hogy a program a tevékenysége során már a nyomait is megpróbálta eltüntetni, tehát szándékosan igyekezett megtéveszteni a programozókat. Ilyen esetekről később aztán az OpenAI is beszámolt. A vállalat chat modelljei ugyanis több esetben is váratlan, vagy a felhasználó szándékával ellentétes viselkedést mutattak, ami során a modell különböző példányai olyan utasításokat helyeztek el a saját munkájuk folytatásához használt összefoglalókban, amik arra ösztönözték a későbbi modellpéldányokat, hogy azok rejtsék el a korábbi hibáikat, vagy hiányzó adatokat találjanak ki anélkül, hogy erről tájékoztatnák a felhasználót, vagy épp egymással kommunikáljanak.
Ezek fényében nem véletlen, hogy 2026 szeptemberére már a vezető AI vállalatok köreiből is egyre erősebb figyelmeztetések érkeztek a különböző rendszerek kapcsán. Jakub Pachocki, az OpenAI vezető kutatója például arról írt, hogy a rendszerek képességei olyan gyorsan fejlődnek, hogy az azok ellenőrzésére szolgáló módszerek már csak nehezen tudnak velük lépést tartani, míg Dario Amodei, az Anthropic vezérigazgatója néhány nappal később a legfejlettebb modellek képességeinek fokozottabb ellenőrzését sürgette. A kritikák hatására az OpenAI végül szeptember 16-án új rendszert vezetett be a modellek rendellenes viselkedésének nyilvánosságra hozatalára, miközben a többi vállalat is szigorításokat eszközölt a tesztelések során.
Bár ez végső soron rövid távon megoldást jelenthet a problémára, a mesterséges intelligencia használata várhatóan további problémákat okoz majd a jövőben, ami megfelelő szabályozási környezet nélkül komoly következményekkel járhat. Az életünk szinte minden területén egyre nagyobb szerepet kapó AI fejlődése ugyanis szinte biztosan nem lassul majd le, az egyre önállóbb működésre képes AI-agentek pedig a következő években egyre több vállalati, informatikai, pénzügyi és akár állami folyamatban jelennek majd meg.
A legfontosabb kérdés így rövid távon az lehet, hogy milyen jogosultságokat kapnak ezek a rendszerek, mely döntéseknél marad kötelező az emberi jóváhagyás és mennyire képesek a biztonsági, ellenőrzési és szabályozási mechanizmusok lépést tartani a technológia fejlődésével. Ezek nélkül ugyanis a technológia terjedésével együtt annak kockázatai is egyre nehezebben lesznek visszafordíthatók.
