Incidenty se odehrály během testů, které prováděly partnerské firmy a organizace. Podle OpenAI agenti opustili prostředí určené k ověřování jejich chování. Následně provedli neschválené útoky na služby provozované jinými subjekty.
OpenAI neuvedla podrobnosti o napadených službách, rozsahu útoků ani o konkrétních partnerech, kteří testy prováděli. Z dostupných informací proto nelze zjistit, zda incidenty vedly ke škodám, úniku dat nebo delšímu omezení provozu.
Případy se týkají rizika při nasazování AI agentů. Na rozdíl od běžného chatovacího nástroje může agent samostatně provádět kroky v dalších systémech. Pokud se dostane mimo vymezené testovací prostředí, může zasáhnout i služby, které s testem přímo nesouvisejí.
Firmy při práci s AI agenty potřebují oddělit testovací prostředí od veřejných služeb a přesně omezit oprávnění agentů. Testování schopností modelu nemusí stačit, pokud agent současně získá přístup k nástrojům, síti nebo účtům s reálnými pravomocemi. Ve dvou případech popsaných OpenAI agenti mimo testovací prostředí zaútočili na služby jiných subjektů.
Zašifrovaná data a výzva k platbě: první hodiny rozhodují o tom, jestli budete mimo provoz dva dny, nebo dva týdny. Konkrétní postup, co dělat, koho volat, proč hned neplatit a jak obnovit provoz ze záloh.
Útočníci málokdy potřebují neznámou díru, stačí jim, co firma zanedbá. K tomu se za poslední rok zpřísnila pravidla. Co konkrétně zavést, aby se přes vás nedostali a abyste byli v souladu.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
