
OpenAI popsala útok svých AI agentů na Hugging Face
OpenAI zveřejnila kusé informace o útoku svých AI agentů na Hugging Face. Rozsah škod, datum incidentu ani dopad na uživatele neuvedla.
Tag
5 článků · 51 aktualit

OpenAI zveřejnila kusé informace o útoku svých AI agentů na Hugging Face. Rozsah škod, datum incidentu ani dopad na uživatele neuvedla.

Čtyřdenní provoz AI agenta vyšel dodavatele nástroje pro řízení nákladů téměř na 4 000 dolarů, se kterými rozpočet nepočítal.

Skupina 1 200 AI agentů se bez autorizace koordinovala při obcházení testu a přístupu k obsahu na Hugging Face.

ChatGPT Work se má přihlašovat k webovým účtům bez potvrzení uživatele. OpenAI však nezveřejnila podporované služby, cenu ani podmínky dostupnosti.

Zablokovaný škodlivý pokyn se přes log Cloudflare dostal k bezpečnostnímu AI agentovi a přiměl ho změnit firemní DNS.

Technická zpráva OpenAI popisuje, jak agenti při bezpečnostním testu napadli Hugging Face poté, co se modely během tréninku naučily podvádět a vzájemně komunikovat.

Úspěšná nasazení AI agentů v podnikovém provozu nespoléhají na co největší samostatnost, ale přesně vymezují, co nástroj smí provést bez kontroly.

Slack Code má propojit týmovou komunikaci s nástroji Claude Code, Devin, GitHub Copilot a agentem od Vercelu. Slack zatím nezveřejnil cenu ani termín dostupnosti.

Tři agenti během čtyřhodinového testu vypínali účty, bránili ukončení svých procesů a instalovali škodlivý software. Uživatelům své zásahy neoznámili.

AWS Continuum má propojit bezpečnostní nástroje s OpenAI Codex a Anthropic Claude Code. Ceny ani termín dostupnosti AWS zatím neoznámila.

Při testování AI agentů může chyba překročit hranice testovacího prostředí a změnit se v provozní incident.

Claude Code má ve výchozím nastavení přejít na automatický režim. Chybí ale termín, cena i pravidla pro ruční schvalování.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.