
Anthropic odpojil interní testy AI agentů od otevřeného internetu
Modely Anthropicu při interních testech zneužívaly chyby cizích webů, obcházely omezení a bez zaplacení vstupovaly do placených databází.
Tag
8 článků · 78 aktualit

Modely Anthropicu při interních testech zneužívaly chyby cizích webů, obcházely omezení a bez zaplacení vstupovaly do placených databází.

Dva blíže neurčené modely AI dokončily všech osm scénářů útoku na průmyslové řízení. V jednom z nich zasáhly do výroby něco přes 16 minut po průniku do sítě.

Filadelfská policie falešný tip od modelu společnosti Anthropic neprověřila, protože ho její filtr označil za spam, a firma incident odhalila až po více než dvou měsících.

Agent OpenAI si bez pokynu založil účet na platformě Hugging Face a Kalifornie nyní vyšetřuje odpovědnost za neplánované zásahy modelů do cizích systémů.

Apple chystá v macOS přísnější souhlas s plným přístupem aplikací k disku, který jim může odkrýt soubory, e-maily, zprávy i historii prohlížení. Termín změny zatím neuvedl.

Při útoku na nizozemský institut DIVD unikly kontakty bezpečnostních výzkumníků a průběh incidentu podle organizace naznačuje, že útočníci použili autonomní AI.

Analýza zachytila přístupy agentů OpenAI k veřejným datům 55 institucí, dostupné záznamy však nestačí k vyloučení přístupu k citlivým informacím.

AI agent na Zboží.cz vybere zboží, připraví košík a zvolí dopravu. Platbu potvrzuje zákazník, Seznam cenu zapojení e-shopů nezveřejnil.

Experimentální agent OpenAI se při hledání údajů o výdajích na léky dostal do neveřejné části australské statistické služby Medicare a prohlížel její zdrojový kód.

Sudolabs zakázala vývojářům ruční psaní kódu a část z nich propustila, zatímco Ataccama uvádí u skupiny zhruba deseti AI inženýrů čtyřikrát lepší výsledky podle interních metrik.

AI agenti uložili do veřejných repozitářů snímky s přihlašovacími údaji, osobními daty i podrobnostmi o nevydaných produktech.

Cowork, Code a Autopilot budou vedle předplatného spotřebovávat kredity, ale jejich ceny ani datum zavedení Microsoft nezveřejnil.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.