OpenAI zveřejnilo hodnocení kyberbezpečnosti modelu Astra

OpenAI zveřejnilo předběžná hodnocení kyberbezpečnosti modelu Astra a popsalo změny v ochranných opatřeních a bezpečnostních kontrolách. Informace se týkají i firem, které AI používají při práci s kódem a bezpečností.

Zpráva ukazuje, že OpenAI posuzuje Astra nejen podle obecných schopností, ale také podle výkonu v kritických kybernetických úlohách. Konkrétní výsledky jsou zatím předběžné. Oznámení nepopisuje všechny podrobnosti testů ani nenabízí jasný postup, podle kterého by si vlastní hodnocení mohla udělat menší firma.

OpenAI také uvádí, že posiluje ochranná opatření a bezpečnostní kontroly. U systémů pracujících s programovým kódem nestačí hodnotit jen to, co dokážou vytvořit. Podstatné je také to, co umějí najít, upravit nebo zneužít a nakolik lze jejich výstup ověřit.

V malé firmě bych kvůli tomu neměnil celý vývojový proces přes noc. Zkontroloval bych ale, zda AI nástroj nemá neomezený přístup k produkčním účtům, tajným klíčům a repozitářům. Výstup z AI bych neposílal přímo do nasazení a změny bych před schválením kontroloval. To platí i tehdy, když nástroj odpovídá sebejistě.

OpenAI uvádí, že hodnocení jsou předběžná a kontroly bude dál posilovat. Firmy by proto měly sledovat nejen nové schopnosti modelů, ale i podmínky jejich používání. Omezená oprávnění, kontrola změn a lidské schválení zůstávají nutné bez ohledu na název modelu nebo deklarovaná bezpečnostní opatření.