Google Mandiant varuje před krádežemi přístupu k firemní AI

Google Mandiant popsal případy krádeží přístupu k placeným firemním jazykovým modelům. Útočníci obětem způsobili náklady přes 100 000 dolarů denně, v některých případech celkem až milion dolarů.

Útočníci kradou přístupové klíče ke službám umělé inteligence a využívají jejich výpočetní kapacitu na cizí účet. Přístupový klíč umožňuje programu používat službu bez ručního přihlášení. Google tento způsob zneužití označuje jako LLMJacking a podle jeho zprávy se v posledních dvou letech objevuje častěji.

Skupina označovaná jako UNC6993 v jednom případě získala klíče k rozhraní jazykového modelu. Poté vytvořila další klíče, zapnula nové cloudové služby a způsobila náklady 100 000 dolarů. Jiný útočník aktivoval placené tarify, vybíral dražší modely a průběžně sledoval fakturaci.

V dalším případě útočník odeslal přes 500 000 požadavků za méně než osm hodin. Ukradené klíče používal pro službu Jet Night, která nabízela neomezený tarif přibližně za 60 dolarů měsíčně. Srovnatelné služby podle Googlu běžně stály 100 až 250 dolarů měsíčně.

Útočníci nevyužívají jen technické chyby. Google popsal také falešnou přihlašovací stránku, na které uživatel zadal platný přístupový údaj. Pachatel tak obešel heslo i vícefaktorové ověření.

Google doporučuje omezit oprávnění jednotlivých klíčů, pravidelně je měnit a automaticky vyhledávat přístupové údaje uložené ve zdrojovém kódu. Prvním krokem je kontrola aktivních klíčů, jejich oprávnění a upozornění na neobvyklou spotřebu. Bez těchto kontrol může ukradený klíč během několika hodin výrazně zvýšit účet za používané služby AI.

Foto: Kavali Chandrakanth KCK, Wikimedia Commons, CC0