OpenAI zveřejnilo předběžná hodnocení kyberbezpečnosti modelu Astra a popsalo změny v ochranných opatřeních a bezpečnostních kontrolách. Informace se týkají i firem, které AI používají při práci s kódem a bezpečností.
Zpráva ukazuje, že OpenAI posuzuje Astra nejen podle obecných schopností, ale také podle výkonu v kritických kybernetických úlohách. Konkrétní výsledky jsou zatím předběžné. Oznámení nepopisuje všechny podrobnosti testů ani nenabízí jasný postup, podle kterého by si vlastní hodnocení mohla udělat menší firma.
OpenAI také uvádí, že posiluje ochranná opatření a bezpečnostní kontroly. U systémů pracujících s programovým kódem nestačí hodnotit jen to, co dokážou vytvořit. Podstatné je také to, co umějí najít, upravit nebo zneužít a nakolik lze jejich výstup ověřit.
V malé firmě bych kvůli tomu neměnil celý vývojový proces přes noc. Zkontroloval bych ale, zda AI nástroj nemá neomezený přístup k produkčním účtům, tajným klíčům a repozitářům. Výstup z AI bych neposílal přímo do nasazení a změny bych před schválením kontroloval. To platí i tehdy, když nástroj odpovídá sebejistě.
OpenAI uvádí, že hodnocení jsou předběžná a kontroly bude dál posilovat. Firmy by proto měly sledovat nejen nové schopnosti modelů, ale i podmínky jejich používání. Omezená oprávnění, kontrola změn a lidské schválení zůstávají nutné bez ohledu na název modelu nebo deklarovaná bezpečnostní opatření.
Při plánování bezpečnostních aktualizací nestačí vysoké skóre zranitelnosti. Přednost má oprava systému, který je vystaven útoku a jehož napadení ohrozí přístupy, data nebo provoz.
Během 30 dní lze určit odpovědnost za kyberbezpečnost, prověřit účty, obnovu záloh i postup pro první hodinu incidentu.
Kdo drží obnovovací slova, může s bitcoinem nakládat, zatímco logo banky v aplikaci z něj bankovní vklad neudělá a pojištění vkladů se na něj nevztahuje.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
