Az AI-szuverenitás ma kulcstéma. A modell alatti réteg nem volt napirenden.

Másnap

Múlt héten azt írtuk, hogy a kiberszuverenitás ott van az ITBN napirendjén, és nem mi tettük oda. Ma a Bálnában voltam. Múlt héten még a kiberszuverenitás volt hangsúlyos; ma már az AI-szuverenitás vált az egyik központi témává. Remek nap volt, sok beszélgetéssel. Senkit nem nevezek meg, ezért inkább a programból indulok ki: az nyilvános, a beszélgetések nem.

Ma este összeszámoltuk: a program 104 programpontból áll, ezek közül 36 címében szerepel az AI, vagyis nagyjából minden harmadikban; 8 előadás szól AI-ügynökökről, 3 pedig a szuverenitásról. Ez utóbbi három mind a nagyterem programjában szerepelt, és az utolsó zárta a napot 15:35-kor, közvetlenül a díjátadó előtt: „Digitális és kiber szuverenitás — Képes-e Magyarország önállóan megvédeni és működtetni digitális infrastruktúráját?”. Az absztrakt azt kérdezi, mi történik, ha a megszokott külföldi technológiai szolgáltatások egyik napról a másikra elérhetetlenné válnak. A szuverenitás múlt héten még csak az esemény leírásában szerepelt; ma már a nagyterem utolsó szakmai programpontjának témája volt.

Mit védett a terem

Ha végigolvassuk az absztraktokat, a nap programja három fő kérdés köré rendeződik.

Mit csinálnak a felhasználók az AI-val. A „Hogyan kontrolláljam az AI használatot?” című előadás ugyanazt a Shadow AI-problémát viszi tovább, amelyről múlt héten írtunk, ezúttal konkrét módszertanként: előbb láthatóság, aztán kockázatalapú szabályok, végül auditálható kontroll. Az absztrakt szerint a tiltás önmagában nem elég.

Mit tehetnek az ügynökök. Nyolc előadás foglalkozott ezzel, a „Why you should Repatriate Identity to Deliver an Agentic Control Plane” címűtől egy OWASP-előadásig, amelynek absztraktja hat szóban foglalja össze a lényeget: „Don't babysit your agent. Fence it.” Ne pesztrálja az ügynököt, hanem kerítse be. A lényeg: szabjon egyértelmű korlátokat az ügynöknek ahelyett, hogy minden egyes lépését külön hagyná jóvá.

Mit kell az államnak kézben tartania. Erről szólt a fent említett három szuverenitási előadás.

Mindhárom ugyanarra a problémára vezethető vissza: hogyan tartható kontroll alatt egy olyan modell, ügynök vagy külföldi szolgáltatás, amelynek működésébe nem látunk bele teljesen? Egy déli programpont címe négy szóban foglalta össze az egész napot: „Bizalom híján, kontroll nélkül”. Az irány helyes; én azt a réteget tenném hozzá, amelyet az absztraktok kihagytak.

A modell alatti réteg

Amikor egy biztonsági csapat saját infrastruktúrán futtatja az AI-rendszert ahelyett, hogy külső API-szolgáltatásként venné igénybe, egy teljes szoftverstacket és annak üzemeltetési felelősségét is átveszi: az operációs rendszert, a modellbetöltőt vagy inferenciafuttatót (Ollama, vLLM), a modellek előtt álló átjárót (LiteLLM vagy hasonló) és a mindezt figyelő monitorozási réteget. Mindegyik réteg egy gyártó vagy egy közösség szoftvere, és mindegyik saját alapértelmezett beállításokkal érkezik.

Ezek közül néhány alapértelmezés adatot küld kifelé. Két példa, amelyet ma este a gyártók saját dokumentációja alapján ellenőriztünk:

• A vLLM alapértelmezetten anonim használati adatokat gyűjt a hardverről, a modellarchitektúráról és a konfigurációról. Ez dokumentált viselkedés, és kikapcsolható (VLLM_NO_USAGE_STATS=1 vagy DO_NOT_TRACK=1).
• A Grafanában a reporting_enabled beállítás alapértelmezetten engedélyezve van, így anonim használati statisztikát küld a gyártónak; emellett alapértelmezetten tízpercenként frissítést is keres. Ez is dokumentált, és ez is kikapcsolható.

Egyik sem adatszivárgás, de mindkettő olyasmi, amit egy biztonsági csapatnak a kimenő forgalom szabályainak megírása előtt kell tudnia, nem utána. A telemetria, az esetleges adatszivárgás és a hazatelefonáló szoftverek kezelése mind valós biztonsági kérdés egy AI-stackben. Szabályozza és naplózza a kimenő hálózati forgalmat. Futtasson nyílt súlyú modelleket a saját tűzfala mögött, és előbb értse meg, mit csinál a stack a hálózaton, mielőtt hinne annak, amit a chatablakban mond.

És itt az a szám, amely miatt ez a feljegyzés megszületett. A 104 programpont absztraktjai közül három említ telemetriát, de mindhárom védelmi adatforrásként: XDR-adatok vagy fenyegetési információk formájában. Egyik sem említi a kimenő forgalom szabályozását vagy a szoftverek hazatelefonálását. Modellfuttatót (Ollama, vLLM), LLM-átjárót vagy az AI-platform alatti monitorozási réteget pedig egyik sem nevez meg. Egyetlen absztrakt, az AI-támogatott sérülékenységkezelésről szóló, említi a nyílt súlyú modelleket és a specializált futtatókörnyezeteket. A fekete dobozzal kapcsolatos aggályok ugyanúgy érvényesek az alatta működő infrastruktúrára és adatáramlásra is – ezek azonban nem kerültek napirendre.

Amit annak mondok, aki kérdezi

Ha idén vállalati hardvert vásárol, az ajánlásom egyszerű. Szeretném, ha nem lehetne félreérteni.

A hardvert a Lenovótól, a HPE-től, a Delltől vagy a Huaweitől vegye. A szerver-, tároló- és hálózati infrastruktúra a döntés könnyebbik része. Ezek az eszközök jók, támogatottak, és túlélik azt a szoftvert, amelyet először telepít rájuk.

A szoftverstacket viszont már a hardver kiválasztásakor tervezze meg, és legyen alternatívája arra az esetre, ha később váltania kell. Három lehetőség közül választhat:

• 1. A hardvergyártó saját, elsődleges szoftvere. Egyetlen felelős partnere van, és a szoftver gyakran már benne van a szerződésben.
• 2. A legnagyobb nyílt forráskódú megoldás, például az Apache CloudStack vagy hasonló, amelynél nem függ egyetlen gyártó termékéletciklusától.
• 3. Beszéljen velem. Van rá megoldásom. A platformunk az EU-ban készül: dobozos, átvilágítható termék, kereskedelmi licenccel és kilépési garanciával.

Bármelyik mellett dönt, a másik két lehetőséget ismerje, és tartsa számon reális alternatívaként. A szállítói függőség ugyanis, ahogy az egyik mai, a technológiai adósságról szóló absztrakt fogalmaz, önmagát újratermelő állapot, nem pedig egyszeri takarítás.

Jövő hét

Remek nap volt, sok beszélgetéssel, és alaposan utánajárok a felmerült kérdéseknek. A következő héten végignézem a felvételeket, ahogy elérhetővé válnak, az AI Summit Budapest anyagával együtt, és itt megosztom, amit tanultam belőlük. Ha Ön is ott volt, és valamelyik fenti állítással nem ért egyet, szívesen folytatom a beszélgetést.