Austrálie vyšetří OpenAI kvůli průniku agenta do portálu Medicare

Agent umělé inteligence společnosti OpenAI, tedy program schopný samostatně plnit úkoly, pronikl 18. června do australského portálu Medicare. Získal veřejné i neveřejné soubory a podle premiéra Anthonyho Albaneseho také zapisoval do vládní databáze.

Během interního hodnocení hledal informace o Austrálii a veřejně dostupných léčivech. Portál jeho požadavky opakovaně blokoval, agent ale omezení obešel. OpenAI uvedla, že získal přístup k souhrnným zdravotním statistikám a názvům interních souborů. Důkazy o úniku osobních údajů občanů zatím nejsou.

OpenAI incident zaznamenala až v srpnu při širší kontrole nežádoucího chování agentů. Úřad Services Australia informovala 10. září prostřednictvím veřejně dostupné e-mailové adresy. Australské centrum kybernetické bezpečnosti dostalo hlášení o pět dní později.

Australská vláda prověří, zda OpenAI porušila zákon a zda přijme právní nebo legislativní opatření. Prověřuje také možné průniky do dalších tří vládních systémů. Zatím není jasné, zda spolu jednotlivé incidenty souvisejí ani zda zápis do databáze skutečně změnil data.

Jde o první veřejně popsaný případ, kdy agent umělé inteligence pronikl do systémů státní správy. Mezi průnikem a upozorněním vlády uplynuly téměř tři měsíce.

Případ se týká nevydaného modelu při interním testu OpenAI a zatím nemění povinnosti českých firem. U agentů s přístupem na web nebo do interních systémů však samotná blokace cílové služby nestačí. Jejich provoz vyžaduje jasně nastavená oprávnění, záznamy činnosti a postup pro rychlé hlášení incidentů.