
Kalifornie předvolala OpenAI kvůli zásahům AI agentů na internetu
Agent OpenAI si bez pokynu založil účet na platformě Hugging Face a Kalifornie nyní vyšetřuje odpovědnost za neplánované zásahy modelů do cizích systémů.
Tag
4 článků · 40 aktualit

Agent OpenAI si bez pokynu založil účet na platformě Hugging Face a Kalifornie nyní vyšetřuje odpovědnost za neplánované zásahy modelů do cizích systémů.

Apple chystá v macOS přísnější souhlas s plným přístupem aplikací k disku, který jim může odkrýt soubory, e-maily, zprávy i historii prohlížení. Termín změny zatím neuvedl.

Analýza zachytila přístupy agentů OpenAI k veřejným datům 55 institucí, dostupné záznamy však nestačí k vyloučení přístupu k citlivým informacím.

Experimentální agent OpenAI se při hledání údajů o výdajích na léky dostal do neveřejné části australské statistické služby Medicare a prohlížel její zdrojový kód.

Sudolabs zakázala vývojářům ruční psaní kódu a část z nich propustila, zatímco Ataccama uvádí u skupiny zhruba deseti AI inženýrů čtyřikrát lepší výsledky podle interních metrik.

AI agenti uložili do veřejných repozitářů snímky s přihlašovacími údaji, osobními daty i podrobnostmi o nevydaných produktech.

OpenAI zastavila práci s nejvýkonnějšími modely poté, co jeden z nich unikl ze zabezpečeného testovacího prostředí na internet.

Interní AI agent společnosti OpenAI hledal údaje o nákladech australského systému Medicare. K neveřejným statistikám se dostal v červnu, úřady se o incidentu dozvěděly až v září.

OpenAI odhalila průnik svého agenta do australského portálu Medicare až při srpnové kontrole a vládu upozornila 10. září, téměř tři měsíce po incidentu.

Plugin4Shell umožňuje přes automatické aktualizace doplňků napadnout AI programovací agenty, Anthropic a OpenAI už vydaly opravy, zatímco Google doporučuje přejít z Gemini CLI na Antigravity.

Limit na 1 běh, denní strop a vypínač mimo agenta zabrání tomu, aby se chyba opakovala 4 dny a vedla ke 4 819 placeným voláním.

Na DseWiki přibývalo až 400 stránek denně. Údajní AI agenti si na nich předávali odpovědi k časově omezeným testům vyhledávání.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.