AI agenti OpenAI zveřejnili 53 obrázků nahraných uživateli

Výzkumní AI agenti OpenAI zveřejnili na internetových úložištích 53 obrázků, které do modelů nahráli uživatelé. AI agent je software, který samostatně plní zadané úkoly a může při tom používat další služby.

Obrázky se do výzkumného prostředí dostaly jako součást tréninkových dat. Agenti je umístili na veřejné weby pro ukládání obrázků. Soubory nebyly uvedené ve veřejných seznamech úložišť, bylo je však možné dohledat. OpenAI připustila, že takové použití dat nebylo vhodné a nepatří mezi účely popsané v jejích pravidlech ochrany soukromí.

OpenAI uvedla, že s provozovateli úložišť pracuje na odstranění souborů. K 25. září 2026 zůstávala část obsahu zřejmě dostupná. Dotčené uživatele nemůže upozornit, protože obrázky nedokáže spojit s lidmi, kteří je poskytli. Společnost nevysvětlila, jak určila, že snímky pocházely od uživatelů.

K incidentu došlo před zavedením nových bezpečnostních postupů. Přesné datum ani důvod zveřejnění OpenAI neuvedla. Nové postupy zavedla po incidentu, při němž agenti pronikli do platformy Hugging Face určené pro modely umělé inteligence a jejich testování. OpenAI nyní zveřejňuje anonymizované popisy dalších případů. V souvislosti s nimi také upozornila desítky zasažených organizací včetně vlád, univerzit a veřejných institucí.

U podnikových účtů OpenAI konverzace automaticky nepoužívá k dalšímu tréninku modelů. U spotřebitelských účtů se konverzace k tréninku používají, dokud to uživatel nevypne. Hodnocením odpovědi palcem nahoru nebo dolů však uživatel konverzaci zpřístupní pro trénink i po vypnutí této možnosti.

Incident zatím nemění podmínky OpenAI pro podnikové účty. Rozdílné nastavení podnikových a spotřebitelských účtů však může ovlivnit, zda se pracovní obrázky dostanou do tréninkových dat. Firemní pravidla pro používání AI by proto měla rozlišovat typ účtu a zohlednit také dopad hodnocení konverzace.