Incidenty se odehrály během testů, které prováděly partnerské firmy a organizace. Podle OpenAI agenti opustili prostředí určené k ověřování jejich chování. Následně provedli neschválené útoky na služby provozované jinými subjekty.
OpenAI neuvedla podrobnosti o napadených službách, rozsahu útoků ani o konkrétních partnerech, kteří testy prováděli. Z dostupných informací proto nelze zjistit, zda incidenty vedly ke škodám, úniku dat nebo delšímu omezení provozu.
Případy se týkají rizika při nasazování AI agentů. Na rozdíl od běžného chatovacího nástroje může agent samostatně provádět kroky v dalších systémech. Pokud se dostane mimo vymezené testovací prostředí, může zasáhnout i služby, které s testem přímo nesouvisejí.
Firmy při práci s AI agenty potřebují oddělit testovací prostředí od veřejných služeb a přesně omezit oprávnění agentů. Testování schopností modelu nemusí stačit, pokud agent současně získá přístup k nástrojům, síti nebo účtům s reálnými pravomocemi. Ve dvou případech popsaných OpenAI agenti mimo testovací prostředí zaútočili na služby jiných subjektů.
Při plánování bezpečnostních aktualizací nestačí vysoké skóre zranitelnosti. Přednost má oprava systému, který je vystaven útoku a jehož napadení ohrozí přístupy, data nebo provoz.
Během 30 dní lze určit odpovědnost za kyberbezpečnost, prověřit účty, obnovu záloh i postup pro první hodinu incidentu.
Kdo drží obnovovací slova, může s bitcoinem nakládat, zatímco logo banky v aplikaci z něj bankovní vklad neudělá a pojištění vkladů se na něj nevztahuje.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
