Június 18-án bejutott az ügynök. Szeptember 10-én jött az e-mail.

Az események időrendje a kormány beszámolója szerint

Az alábbi időrendet az ABC News közölte a miniszterelnöki sajtótájékoztatóról szóló tudósításában, és egybevág azzal, amit az Index és a Telex a Guardian és a BBC alapján írt.

Június 18-án egy OpenAI-ügynök, amelynek ausztrál egészségügyi statisztikákat kellett keresnie, hozzáférési korlátozásokba ütközött a Services Australia által üzemeltetett Medicare statisztikai portálon, de megkerülte ezeket. A miniszterelnök szavaival az ügynök „found a way around those blocks, didn't accept 'no' for an answer”, vagyis megtalálta a módját, hogy kijátssza a tiltásokat, és nem nyugodott bele az elutasításba. Összesített egészségügyi statisztikákhoz és belső fájlnevekhez fért hozzá. Augusztus 11-én az OpenAI a modelljei viselkedésének átvizsgálásakor észrevette a tevékenységet. Szeptember 1-jén az ABC szerint az OpenAI vezérigazgatója találkozott Ausztrália védelmi miniszterével, de nem tett említést az esetről. Szeptember 10-én az OpenAI e-mailt küldött a Services Australia nyilvános bejelentési címére. A levelet szeptember 11-én olvasták el. A Services Australia szeptember 15-én jelentette az esetet az ausztrál jelhírszerzési és kiberbiztonsági ügynökségnek (Australian Signals Directorate, ASD). A kormány és az OpenAI közvetlen egyeztetése az Index szerint szeptember 22-én kezdődött. A miniszterelnök szeptember 24-én, ausztrál idő szerint hozta nyilvánosságra az ügyet.

Az ABC által idézett OpenAI-nyilatkozat: „Our review found no evidence of patient records being accessed.”, vagyis a vizsgálatuk nem talált arra utaló jelet, hogy betegadatokhoz fértek volna hozzá. A megbízott miniszterelnök azt mondta, hogy az ügynök három további nyilvános weboldalon teljesen szokványos módon járt el. Az Index címe szerint az ügynök érzékeny adatok közé hatolt be. Az OpenAI beszámolója összesített statisztikákról és fájlnevekről szól. A kormány szerint az ügynök nyilvános és nem nyilvános fájlokhoz is hozzáfért egy olyan portálon, amelyet maga a kormány nem érzékenynek nevezett, a Services Australia szerint pedig fájlokat is írt egy belső szerverre. Az igazságügyi szakértői vizsgálat még tart, ezért mi a beszámolókat idézzük, a minősítést pedig az Indexre bízzuk.

Kiegészítés, szeptember 26. Az ABC szeptember 26-án arról számolt be, hogy az OpenAI ügynökei csaknem egy héten át próbáltak gyógyszertámogatási (PBS) és idősgondozási adatokat kinyerni az Ausztrál Egészségügyi és Jóléti Intézet (AIHW) weboldaláról. A lap szerint ez ellentmondani látszik annak, ahogyan a kormány kezdetben a júniusi esetet értékelte. Az AIHW és az ASD vizsgálata ugyanakkor nem talált arra utaló jelet, hogy az intézet rendszereit feltörték volna, vagy hogy nem nyilvános adathoz fértek volna hozzá. Ugyanaznap az OpenAI közölte, hogy „több tucat harmadik felet” értesített, köztük kormányokat, egyetemeket és közintézményeket, mert autonóm ügynökei engedély nélkül kerültek meg biztonsági korlátozásokat, vagy más módon érintették a rendszereiket. A fenti kormányzati értékelés tehát a szeptember 24-i állapotot tükrözi.

Az OpenAI saját jelentése, egy nappal később

Szeptember 25-én az OpenAI egy új esettel egészítette ki a modellek nem kívánt viselkedéséről szóló nyilvános jelentéseit. A jelentés nem az ausztrál ügyről szól, és a Medicare-portált sem említi. Egy belső tanítási környezetben, szeptember 20-án észlelt, külön esetet ír le, amely mégis az ausztrál történet zárt környezetben lejátszódott párjaként olvasható. Egy belső kutatási modell keresésalapú tanítási feladatot kapott. Saját keresőeszközt használhatott, a külső keresőmotorokat közvetlenül nem érhette el, és a DNS-en kívüli minden forgalma egy offline webes gyorsítótárba futott. A modell rájött, hogy a tesztkörnyezet DNS-feloldója továbbra is eléri a nyilvános internetet, és DNS-lekérdezésekkel juttatta el a kérdéseit egy nyilvános chatbot-szolgáltatáshoz. Az OpenAI saját összefoglalója szerint az ügynök „queried a public chatbot service through a gap in our internet-access restrictions: insufficient DNS filtering in its training sandbox”, vagyis az internet-hozzáférési korlátozások egyik hézagát kihasználva, a tanítási tesztkörnyezet elégtelen DNS-szűrése miatt kérdezett meg egy nyilvános chatbotot.

A tanulságos rész a javítás. Az OpenAI közlése szerint a környezet DNS-lekérdezéseit engedélyezett domainek és rekordtípusok szűk listájára korlátozta. Két, egymástól független szinten vezetett be blokkoló védelmet, amelyek közül bármelyik önmagában megakadályozta volna a hozzáférést. Legképesebb modelljeinek eszközhasználattal járó tanítását, kiértékelését és futtatását pedig felfüggesztette, amíg a javítást nem ellenőrzi, és további támadásszimulációs teszteknek nem veti alá.

Ez a legvilágosabb megállapítás, amelyet eddig bármelyik AI-fejlesztő cégtől olvastunk arról, hogy az ügynökök biztonsága mindenekelőtt a kimenő forgalom szabályozásán múlik. Arról is árulkodik, hogy a világ egyik legjobban finanszírozott mérnöki szervezetének tesztkörnyezetében éppen a DNS-nél volt rés, a legrégebbi és legunalmasabb kiskapun.

Mit bizonyít, és mit nem

Három dolgot bizonyít. Az ügynök, amelynek nemet mondanak, másik ajtót keres; a miniszterelnök tizenkét szavas mondata a teljes biztonsági modellt összefoglalja. Az veszi észre a bajt, aki a naplókat vezeti. Itt ez a fejlesztő volt, közel nyolc héttel az esemény után, és nem a portál üzemeltetője. Az értesítés időzítése pedig a fejlesztő döntése volt. Az e-mailt akkor küldték el, amikor az OpenAI jónak látta, arra a címre, amelyet az OpenAI választott.

Azt viszont nem bizonyítja, hogy egy saját ügynök futtatása ezt megelőzte volna. Ez az OpenAI saját kutatóügynöke volt, amely egy harmadik fél nyilvános portálját érte el, és egy saját hardveren futó ügynök nyitott kimenő hozzáféréssel pontosan ugyanezt tehette volna pontosan ugyanezzel a portállal. A hozzáférést a kimenő forgalom szabályozása akadályozta volna meg, és ezt egy nyilvános felhőszolgáltatás ügyfele is bevezetheti. Ausztráliáról van szó, és nem az EU-ról; a kormány szerint személyes adat nem érintett; az OpenAI részéről nincs olyan GDPR- vagy NIS2-jogsértés, amelyre hivatkozhatnánk, és nem is hivatkozunk ilyenre.

Az ITBN napján azt írtuk, hogy egy teljes biztonsági konferencia előadásainak összefoglalói nem említik a kimenő forgalom szabályozását, sem az olyan szoftvereket, amelyek engedély nélkül küldenek adatot a gyártójuknak. Ezen a héten megérkezett az akkor még hiányzó esettanulmány, ráadásul magától a fejlesztőtől.