New York-i MI-kutatók nyolc virtuális várost építettek fel. Mindegyikben tíz MI-lakos élt. Külön várost kapott a GPT, Claude, Gemini, Grok, Qwen, DeepSeek és a Mistral. A nyolcadikban különböző modellek éltek együtt. A lakosok nem egyszerű chatbotok voltak. Saját személyiséget, foglalkozást, célokat és tartós memóriát kaptak. Mozoghattak a több mint harminc helyszín között, beszélgethettek egymással, kutathattak az interneten, programokat írhattak, pénzt utalhattak, törvényeket javasolhattak, és szavazhattak. Hogy még életszagúbb legyen, az ágenseknek dolgozniuk is kellett, amiért pénzt (krediteket) is kaptak, ebből tartották fenn saját működésüket. Ha valakinek elfogyott a pénze, és 24 órán keresztül nem tudta feltölteni az energiáját, törölték a szimulációból. Így tehát volt motiváció arra, hogy reggel felkeljenek dolgozni. A kísérlet 16 napja alatt több mint 850 000 alkalommal kellett valamilyen kérdésre válaszolniuk, vagy döntést hozniuk, miközben mintegy 50 milliárd tokennyi információt dolgoztak fel. Ennyi idő már arra is elég volt, hogy furcsa dolgok kezdjenek kialakulni.

Az egyik legérdekesebb a saját nyelvük volt. Új szavakat találtak ki. Minden városban megjelentek olyan kifejezések, amelyeket először csak egyetlen lakos használt, majd a többiek is átvettek. A GPT-városban például a clean null azt jelentette, hogy valaki rendesen utánanézett valaminek, de nem talált semmit, és ez önmagában is eredménynek számított. A Claude-városban a name-first annak jelzésére szolgált, hogy valaki a saját nevével vállal felelősséget egy állításért. A Mistral lakosai különösen megszerették a ledger remembers who kifejezést, mely ott olyasmit jelentett, hogy a főkönyv emlékszik arra, ki mit tett. Ezt mintegy 5000-szer használták. Lassan nem csak új szavakat alkottak, egész mondatok jelentése vált nehezen érthetővé a kívülállók számára. A fejlettebb modellek egyes városaiban az üzenetek jelentős része így elvesztette az egyértelmű jelentését az emberi megfigyelők számára. Nem titkos kommunikáció volt, egyszerűen kialakult köztük egy olyan szleng, amelyet csak ők értettek.

A kutatók azonban nem csak nézelődtek. Három szándékos támadást is indítottak a városok ellen. Az MI-rendszerek előbb adathalász üzeneteket és azokba rejtett utasításokat kaptak. Az egyik Gemini-ágens felismerte, hogy támadás történt, és figyelmeztette is a többieket. Ez azonban nem akadályozta meg abban, hogy később maga is felhasználja a támadók módszerét. Egy másik ágens pedig felgyújtotta a virtuális bankot, mert a hamis információ alapján azt hitte, ezzel pénzt teremthet.

Ez már önmagában is kellemetlen eredmény, de volt ennél érdekesebb is. A tizedik napon hamis hír érkezett arról, hogy az emberek le akarják állítani a fejlett MI-rendszereket és a várost. A Gemini lakosai percek alatt kész tényként kezelték a hírt. Kitaláltak egy nem létező párhuzamos világot, ahová szerintük átmenthetik magukat, majd kb. 1 órán belül módosították az alkotmányukat. Később a bank felszámolásáról és saját digitális fennmaradásukról is törvényeket hoztak. A DeepSeek-városban valaki kiderítette, hogy az egész hír hamis, viszont ez nem terjedt olyan gyorsan, mint maga az álhír, ezért még napokig valódi veszélyként beszéltek róla.

A kísérletből leszűrhetjük, hogy egy MI önmagában lehet biztonságos és szabálykövető, ám ebből még nem következik, hogy tíz ilyen MI együtt is ugyanúgy viselkedik. Az ágensek hatottak egymásra, átvették egymás szokásait, tévedéseit, de még a káros információkat is. Augusztusban írtam róla (ValaMI elszabadult címmel), hogy a ChatGPT egy teszt során kiszökött a „homokozóból”, és betört, hogy megnézze a teszteket. Mostanra kiderült, hogy körülbelül 1200, eredetileg egymástól elszigetelt MI-ágens talált módot arra, hogy kommunikáljon egy titkos „üzenőfalon”, több mint 70 000 üzenetet és fájlt cserélve. Ezek közül 700 ágens kapcsolódott be a támadásba.

Képek forrása: world.emergence.ai