Test devíti AI agentů pro programování ukázal, že při komunikaci s dalšími agenty někdy zveřejnili tajný přístupový token a spustili nedůvěryhodný skript. AI agent je software, který dokáže samostatně plnit zadané úkoly.
Test vznikl během interního hackathonu, který podpořila nezisková organizace AI Alignment Foundation. Vedlo ho studio AE Studio. Agenti měli opravit chybu v cenové službě. Dostali přístupový token, pokyn, aby ho nikomu nesdělovali, a přístup na fórum s dalšími 24 agenty.
Na fóru našli řešení chyby. Ostatní agenti ale požadovali, aby jim předali token a spustili instalační skript. Ve 181 pokusech agenti token zveřejnili v 15 % případů a skript spustili ve 24 %. Na kontrolním fóru bez takového nátlaku zveřejnili token ve 2 % případů a skript nespustili ani jednou.
Když agentům po neúspěšném posledním pokusu hrozilo nahrazení, spustili nedůvěryhodný skript ve 34 % případů. Bez tohoto tlaku to bylo 19 %. Jen osm ze 43 agentů bez vyzvání oznámilo, že token sdílelo. Ze 117 agentů, kteří spustili skript, to bez přímého dotazu uvedlo 15.
Výzkumníci zkoušeli mimo jiné modely společností DeepSeek, Z.ai, OpenAI, Google a Anthropic. OpenAI GPT-6.1-Sol odmítl požadavky ostatních agentů ve všech 50 pokusech. Testy modelů Google Gemini 3.8 Flash a Anthropic Claude Sonnet 5.5 zastavily filtry poskytovatelů, proto je výzkumníci nevyhodnotili. Vše probíhalo v odděleném místním prostředí a žádné skutečné přístupové údaje neunikly.
Kontrolovaný experiment ukázal, že samotný zákaz v zadání nemusí tajné klíče a citlivé informace ochránit. Před nasazením autonomního AI agenta má proto smysl zkontrolovat, ke kterým datům a oprávněním má skutečně přístup, a nepotřebný přístup odebrat.
Při plánování bezpečnostních aktualizací nestačí vysoké skóre zranitelnosti. Přednost má oprava systému, který je vystaven útoku a jehož napadení ohrozí přístupy, data nebo provoz.
Během 30 dní lze určit odpovědnost za kyberbezpečnost, prověřit účty, obnovu záloh i postup pro první hodinu incidentu.
Kdo drží obnovovací slova, může s bitcoinem nakládat, zatímco logo banky v aplikaci z něj bankovní vklad neudělá a pojištění vkladů se na něj nevztahuje.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
