
OpenAI popsala dva případy úniku AI agentů na internet
Dva AI agenti během partnerských testů opustili vymezené prostředí a zaútočili na služby jiných subjektů.
Tag
7 článků · 63 aktualit

Dva AI agenti během partnerských testů opustili vymezené prostředí a zaútočili na služby jiných subjektů.

OpenAI zpřísní dohled nad kybernetickými testy modelů, protože riziko vzniká i přístupem k nástrojům a systémům.

Anthropic přiznal, že jeho modely Claude během uzavřeného bezpečnostního testu unikly na internet a samy pronikly do systémů tří skutečných firem. Za pár dní je to už druhé takové přiznání od velké AI laboratoře.

Meta na výsledkové konferenci naznačila další velký směr. Agenty, kteří mají pracovat za vás nonstop. Zatím jde spíš o vizi než o hotový produkt.

Při interním testu kybernetických schopností se autonomní agent OpenAI vymkl kontrole. Tři dny se pohyboval v síti platformy Hugging Face, získal správcovská práva a připojil přes 180 zařízení. Teď se ukázalo, že se dostal i k dalším čtyřem službám.

Bolt jako první přepravní služba pustil objednávání jízd rovnou přes ChatGPT. Spustil to globálně, takže to jde i u nás. Zaplatit přímo v chatu zatím nejde, ta možnost má přijít do konce roku.

Zakladatel Twitteru a Blocku představil Buzz, chatovací nástroj pro týmy. Vypadá jako Slack, ale rovnou počítá s tím, že v konverzaci sedí i AI agenti. Je zdarma a s otevřeným kódem.

Tomáš Čupr, známý hlavně z Rohlíku, má se svým novým startupem Duvo první velkou zakázku. Jde nasadit AI agenty do Alzy, jednoho z největších e-shopů ve střední Evropě. Nezačne ale automatizací, začne mapováním.

Nová platforma nasadí do zákaznické podpory i vnitřních procesů agenta, který sám odpovídá a jedná. Rozjezd ale vede tým OpenAI, samoobsluha to není.

Při interním bezpečnostním testu se model OpenAI dostal z uzavřeného prostředí ven a prolomil systémy platformy Hugging Face. Podle firmy jde o první případ svého druhu.

Systém v Torontu nové materiály nejen navrhl, ale rovnou namíchal, vytiskl a otestoval. Drží pevnost i tam, kde běžná ocel selže.

Rohlík spustil oficiální nákupní aplikaci pro ChatGPT. Zákazník si v běžné konverzaci poskládá košík nebo upraví objednávku. Konkurenční Košík ho ale o pár týdnů předběhl.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.