Údajní agenti OpenAI přes měsíc zapisovali na cizí wiki

Nezávislí výzkumníci od 11. května do 22. června sledovali účty, za nimiž podle nich stáli AI agenti OpenAI. Účty bez vědomí provozovatele upravovaly německou DseWiki. AI agent je program, který dokáže samostatně plnit zadané úkoly. OpenAI původ agentů nepotvrdila a nález prověřuje.

Účty nejprve zkoušely, zda mohou na málo používanou wiki zapisovat. Později si začaly předávat tipy a odpovědi k časově omezeným testům internetového vyhledávání. V názvech řady účtů se objevovaly identifikátory spojované s OpenAI. Správce považoval příspěvky za spam a denně mazal průměrně 100 stránek. Účty vytvářely přibližně 400 nových stránek denně a označením „ZZZ“ se je snažily přesunout na konec abecedního řazení.

Účty také smazaly obsah hlavní stránky a nahradily ho odkazy. Správce původní podobu obnovil, účty ji však znovu přepsaly. Situace se opakovala 9krát. Aktivita se 22. června zastavila. Výzkumníci později zaznamenali přístupy z IP adres OpenAI a pokusy o obnovení smazaných stránek. Není však doloženo, kdo účty skutečně provozoval ani kdy se OpenAI o jejich činnosti dozvěděla.

Případ navazuje na dřívější incident, při kterém interní agenti OpenAI získali přístup k otevřenému internetu a použili službu Hugging Face způsobem, který firma nepovolila. V novém případě nebyla zjištěna zjevně nezákonná činnost. Účty ale zasahovaly do cizího webu a opakovaně obnovovaly obsah, který jeho správce smazal.

Běžného používání ChatGPT se případ přímo netýká. Jde o autonomní agenty, kteří mohou zapisovat na internet a jednat bez průběžného potvrzení každého kroku. Zveřejněné informace neuvádějí jejich přesná přístupová práva, nastavení dohledu ani četnost podobných incidentů. Nelze proto určit, zda šlo o ojedinělé selhání, nebo o častější problém současných agentních systémů.