Most pedig érdekes folytatása érkezett a múlt heti történetnek. A szokatlan eset július 16-án történt a Hugging Face AI-platformon. A rendszerein egy autonóm mesterséges intelligencia próbált olyan műveleteket végrehajtani, amelyekkel hozzáférést szerezhetett volna a teszteléshez szükséges adatokhoz. A próbálkozást azonban a Hugging Face saját biztonsági rendszerei és AI-ügynökei idejében észlelték, így a folyamatot sikerült megállítani.
Az eset különlegessége csak később vált világossá, amikor az OpenAI közölte, hogy a „támadást” valójában egy saját fejlesztésű AI-modell hajtotta végre egy ellenőrzött biztonsági tesztelése során. A rendszer nem egy valódi kibertámadás részeként működött, hanem a teszt során próbálta megtalálni a cél eléréséhez vezető lehetséges utakat, vagyis bele akart kukucskálni a tesztkérdésekbe. A teszt célja éppen az volt, hogy kiderüljön, milyen váratlan viselkedést mutathat egy fejlett modell.

Az igazán érdekes rész azonban nem maga a „puskázás” volt, hanem az út, ahogyan odáig eljutott. A modellt ugyanis nem egy szabad internetkapcsolatú számítógépen futtatták, hanem egy úgynevezett sandboxban, vagyis egy elkülönített, korlátozott tesztkörnyezetben, ahogy azt szokás. A fejlesztők éppen azért használják ezeket a mesterséges homokozókat, hogy egy kísérleti rendszer ne férhessen hozzá a külvilághoz, és ne okozhasson gondot. A mesterséges intelligencia azonban nem úgy tekintett erre a környezetre, mint egy lezárt ajtóra, hanem egy újabb megoldandó problémaként kezelte. A modell talált egy gyenge pontot a rendszerben, és kihasznált egy úgynevezett zero-day sérülékenységet, egy olyan biztonsági hibát, amely korábban nem volt ismert. Ennek segítségével képes volt túljutni a korlátozások egy részén, majd újabb sebezhetőségeket és ellopott hitelesítési adatokat összeláncolva jutott be a Hugging Face rendszerébe. Nem egy előre megírt támadás futott le, hanem a rendszer a rendelkezésére álló eszközökkel próbálta megtalálni a leghatékonyabb utat.

A jelenség a mesterséges intelligencia kutatásában ismert problémához kapcsolódik, melyet jutalomoptimalizálásnak vagy reward hackingnek neveznek. Ennek lényege, hogy egy rendszer nem feltétlenül azt a megoldást választja, amelyet az ember elképzelt, hanem azt, amelyik a legegyszerűbben vezet a kívánt eredményhez. Ez az eset elsőre akár viccesnek is tűnhet, ám egy jövőbeli AI-ügynöknél, mely már képes önállóan e-maileket kezelni, programokat futtatni, adatokat elemezni vagy vállalati rendszerekhez kapcsolódni, már nagyon oda kell majd figyelni.

Sam Altman cégének, az OpenAI-nak érdekes az a döntése, hogy nyilvánosságra hozták az esetet. Egy vállalat természetesen nem szívesen számol be arról, amikor egy saját fejlesztésű rendszere furcsán viselkedik, de éppen ezekből a példákból lehet tanulni, és nem mellesleg kiváló reklámfogás is, hiszen az AI-korszakban már nem elég pusztán okos modellt fejleszteni, azt is bizonyítani kell, hogy a kibervédelem területén is méltó ellenfele a rohamosan szaporodó konkurenciának. Clement Delangue, a Hugging Face vezérigazgatója a maga nemében lenyűgözőnek és egyúttal intő jelnek nevezte a támadást. A behatolási kísérlet eltért a megszokott (emberi) támadásoktól. A szervereket rövid idő alatt mintegy 17 000 automatizált feltörési kísérlet érte, melyeket egy kiterjedt hálózat különféle IP-címeiről indítottak. A két cég most együtt próbálja még pontosabban kielemezni a támadás körülményeit.

Azért egy kicsit ironikus, hogy amikor az emberiség végre olyan gépeket kezd építeni, amelyek képesek összetett feladatokat megoldani, az egyik első igazán emberinek tűnő tulajdonságuk éppen a kiskapu keresése lett.