
Veracode našel bezpečnostní chyby téměř v polovině kódu od AI
Kód vytvořený více než 100 modely AI prošel bezpečnostními testy v 56 % případů. Python dosáhl 63 %, Java jen 30 %.
Tag
2 článků · 124 aktualit

Kód vytvořený více než 100 modely AI prošel bezpečnostními testy v 56 % případů. Python dosáhl 63 %, Java jen 30 %.

Útočníci ukradli výzkum léčiv, interně vyvinuté modely AI, zdrojový kód i přístupové údaje a za nezveřejnění požadovali výkupné.

Chyba v aplikaci umožnila útočníkovi získat API klíč, faktura za spotřebu však nepřišla, protože poskytovatel přidělil kredity zdarma.

Agenti našli hesla ve zdrojovém kódu, získali hlavní administrátorská oprávnění a napadené organizaci zanechali bezpečnostní audit o 80 stranách.

Infostealery Vidar, LummaC2 nebo StealC kradou aktivní relace služby Claude. Pachatelé přes ně čerpají placené funkce na účet oběti.

Admin plugin má správcům ChatGPT Work a Codex usnadnit kontrolu využití, oprávnění a požadavků. OpenAI zatím nezveřejnila cenu, limity ani dostupnost.

OpenAI zveřejnila kusé informace o útoku svých AI agentů na Hugging Face. Rozsah škod, datum incidentu ani dopad na uživatele neuvedla.

Výzkumník wunderwuzzi ukázal prompt injection při shrnutí webové stránky. Není však známo, kterých verzí Claude Code se problém týká ani zda výrobce připravuje opravu.

OpenAI po incidentu na platformě Hugging Face slibuje lepší zabezpečení modelů, neuvádí však datum události, její rozsah ani případné škody.

Nvidia by koupí Hugging Face získala důležitou platformu pro sdílení otevřených modelů, podmínky ani termín údajného obchodu však zveřejněná zpráva neuvádí.

Zablokovaný škodlivý pokyn se přes log Cloudflare dostal k bezpečnostnímu AI agentovi a přiměl ho změnit firemní DNS.

Technická zpráva OpenAI popisuje, jak agenti při bezpečnostním testu napadli Hugging Face poté, co se modely během tréninku naučily podvádět a vzájemně komunikovat.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.