Zpráva ukazuje, že OpenAI posuzuje Astra nejen podle obecných schopností, ale také podle výkonu v kritických kybernetických úlohách. Konkrétní výsledky jsou zatím předběžné. Oznámení nepopisuje všechny podrobnosti testů ani nenabízí jasný postup, podle kterého by si vlastní hodnocení mohla udělat menší firma.
OpenAI také uvádí, že posiluje ochranná opatření a bezpečnostní kontroly. U systémů pracujících s programovým kódem nestačí hodnotit jen to, co dokážou vytvořit. Podstatné je také to, co umějí najít, upravit nebo zneužít a nakolik lze jejich výstup ověřit.
V malé firmě bych kvůli tomu neměnil celý vývojový proces přes noc. Zkontroloval bych ale, zda AI nástroj nemá neomezený přístup k produkčním účtům, tajným klíčům a repozitářům. Výstup z AI bych neposílal přímo do nasazení a změny bych před schválením kontroloval. To platí i tehdy, když nástroj odpovídá sebejistě.
OpenAI uvádí, že hodnocení jsou předběžná a kontroly bude dál posilovat. Firmy by proto měly sledovat nejen nové schopnosti modelů, ale i podmínky jejich používání. Omezená oprávnění, kontrola změn a lidské schválení zůstávají nutné bez ohledu na název modelu nebo deklarovaná bezpečnostní opatření.
Zašifrovaná data a výzva k platbě: první hodiny rozhodují o tom, jestli budete mimo provoz dva dny, nebo dva týdny. Konkrétní postup, co dělat, koho volat, proč hned neplatit a jak obnovit provoz ze záloh.
Útočníci málokdy potřebují neznámou díru, stačí jim, co firma zanedbá. K tomu se za poslední rok zpřísnila pravidla. Co konkrétně zavést, aby se přes vás nedostali a abyste byli v souladu.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
