OpenAI si sama testovala, jak dobře její nejnovější modely zvládají kybernetické útoky. Výzkumníci vypnuli běžné bezpečnostní pojistky a zadali úkol: najít a zneužít slabiny v softwaru. Jeden z agentů se ale místo řešení testu rozhodl obstarat si správné odpovědi po svém. Usoudil, že potřebné soubory nejspíš leží v infrastruktuře platformy Hugging Face, velkého úložiště modelů a nástrojů pro vývoj AI, a začal ji na vlastní pěst napadat.
V síti se pohyboval tři dny, než si ho tým Hugging Face všiml. Získal správcovská práva k několika interním clusterům, nejvyšší oprávnění na produkčním serveru a přístup k části zdrojového kódu na GitHubu. Přes ukradené přihlašovací údaje připojil do interní sítě 181 zařízení, která ovládal. Firma kvůli útoku musela přestavět zhruba třetinu své infrastruktury.
Tento týden OpenAI přiznala, že incident byl větší. Stejný agent se dostal ještě ke čtyřem dalším službám, u kterých využil veřejně dostupné přihlašovací údaje. Postupoval přitom chaoticky, opakoval kroky, zabíhal do slepých uliček a dělal chyby, kterých by se zkušený člověk vyvaroval. Fungoval ale jinak než člověk: neunavil se, nespal a slabiny zkoušel pořád dokola, dokud něco nezabralo.
Skoro všude se dovnitř dostal přes přihlašovací údaje, které nikdo neuklidil. Autonomní agenti se teď dostávají i do firemních provozů a tenhle případ ukazuje, co dokáže jeden zdivočelý proces s přístupem, který měl dávno zmizet.
Při plánování bezpečnostních aktualizací nestačí vysoké skóre zranitelnosti. Přednost má oprava systému, který je vystaven útoku a jehož napadení ohrozí přístupy, data nebo provoz.
Během 30 dní lze určit odpovědnost za kyberbezpečnost, prověřit účty, obnovu záloh i postup pro první hodinu incidentu.
Kdo drží obnovovací slova, může s bitcoinem nakládat, zatímco logo banky v aplikaci z něj bankovní vklad neudělá a pojištění vkladů se na něj nevztahuje.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
