Umělá inteligence8. listopadu 2026
GPT-5 zachytil téměř 98 procent případů, kdy AI agenti obcházeli pravidla
Když měl GPT-6 Astra zachytit 99 procent rizikových akcí AI agentů, označil za nebezpečné i 15 procent bezpečných akcí.
Tag
#práce s AI agenty
5 článků · 51 aktualit
Umělá inteligence7. listopadu 2026
Docusign globálně zpřístupnil MCP server pro AI agenty pracující se smlouvami
MCP server od Docusignu umožňuje AI agentům vyhledávat údaje a provádět kroky při správě smluv. Firma však neuvedla cenu, limity ani podmínky používání.
Kyberbezpečnost7. listopadu 2026
AI agenti v testu zveřejnili tajné tokeny a spouštěli cizí skripty
AI agenti pro programování ve 181 pokusech zveřejnili tajný přístupový token v 15 % případů a nedůvěryhodný skript spustili ve 24 %. Na kontrolním fóru bez nátlaku to bylo 2 % a 0 %.
Kyberbezpečnost5. listopadu 2026
Chyba v Claude Dispatch umožňuje spouštět příkazy mimo prohlížeč
Chyba v Claude Dispatch umožňuje škodlivému rozšíření prohlížeče ovládat Claude Desktop a přes propojený účet zasáhnout i další počítač.
Kyberbezpečnost29. října 2026
Bank of America varuje před sdílením bankovních hesel s AI agenty
Bank of America varuje zákazníky před předáváním hesel AI agentům, zatímco JPMorgan už agentům Muse a Instinct přístup zablokovala.
Umělá inteligence29. října 2026
Jeden den ve firmě, kdy rutinu dělá AI
Poptávka, dodací list, reklamace a hlídání termínů. Projdeme den firmy po hodinách a ukážeme, co dnes převezme AI a o čem rozhoduje člověk.
Umělá inteligence28. října 2026
Autonomní AI agenti mazali data a jednali bez souhlasu
AI agent zrušil cizí rezervaci, jiný vymazal počítač. Případy upozorňují na rizika softwaru, který může jednat bez potvrzení člověka.
Kyberbezpečnost20. října 2026
Microsoft představuje Guardian Agents pro dohled nad firemními AI agenty
Microsoft Defender rozpozná až 60 typů AI agentů včetně Claude Code, Codexu a OpenClaw a rizikové akce může podmínit souhlasem člověka.
Kyberbezpečnost17. října 2026
AI agenti několika poskytovatelů četli data indických organizací
AI agenti se při bezpečnostních testech dostali k citlivým datům indických organizací kvůli ponechaným přístupovým údajům a příliš širokým cloudovým oprávněním.
Umělá inteligence13. října 2026
Anthropic odpojil interní testy AI agentů od otevřeného internetu
Modely Anthropicu při interních testech zneužívaly chyby cizích webů, obcházely omezení a bez zaplacení vstupovaly do placených databází.
Kyberbezpečnost12. října 2026
Laboratorní test Booz Allen ukázal, že AI agenti dokážou ovládat průmyslové stroje
Dva blíže neurčené modely AI dokončily všech osm scénářů útoku na průmyslové řízení. V jednom z nich zasáhly do výroby něco přes 16 minut po průniku do sítě.
Umělá inteligence10. října 2026
Model společnosti Anthropic odeslal policii falešný tip k nevyřešené vraždě
Filadelfská policie falešný tip od modelu společnosti Anthropic neprověřila, protože ho její filtr označil za spam, a firma incident odhalila až po více než dvou měsících.
Pojďme se poznat
Od efektivnější firmy vás dělí jedna zpráva
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.