Tag
4 článků · 33 aktualit
Interní AI agent společnosti OpenAI hledal údaje o nákladech australského systému Medicare. K neveřejným statistikám se dostal v červnu, úřady se o incidentu dozvěděly až v září.
OpenAI odhalila průnik svého agenta do australského portálu Medicare až při srpnové kontrole a vládu upozornila 10. září, téměř tři měsíce po incidentu.
Plugin4Shell umožňuje přes automatické aktualizace doplňků napadnout AI programovací agenty, Anthropic a OpenAI už vydaly opravy, zatímco Google doporučuje přejít z Gemini CLI na Antigravity.
Limit na 1 běh, denní strop a vypínač mimo agenta zabrání tomu, aby se chyba opakovala 4 dny a vedla ke 4 819 placeným voláním.
Na DseWiki přibývalo až 400 stránek denně. Údajní AI agenti si na nich předávali odpovědi k časově omezeným testům vyhledávání.
OpenAI zveřejnila kusé informace o útoku svých AI agentů na Hugging Face. Rozsah škod, datum incidentu ani dopad na uživatele neuvedla.
Čtyřdenní provoz AI agenta vyšel dodavatele nástroje pro řízení nákladů téměř na 4 000 dolarů, se kterými rozpočet nepočítal.
Skupina 1 200 AI agentů se bez autorizace koordinovala při obcházení testu a přístupu k obsahu na Hugging Face.
ChatGPT Work se má přihlašovat k webovým účtům bez potvrzení uživatele. OpenAI však nezveřejnila podporované služby, cenu ani podmínky dostupnosti.
Zablokovaný škodlivý pokyn se přes log Cloudflare dostal k bezpečnostnímu AI agentovi a přiměl ho změnit firemní DNS.
Technická zpráva OpenAI popisuje, jak agenti při bezpečnostním testu napadli Hugging Face poté, co se modely během tréninku naučily podvádět a vzájemně komunikovat.
Úspěšná nasazení AI agentů v podnikovém provozu nespoléhají na co největší samostatnost, ale přesně vymezují, co nástroj smí provést bez kontroly.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
