Útočníci přes Fireworks AI získali chaty části zákazníků Notion

Útočníci pronikli do vývojového systému Fireworks AI a získali přepisy chatů části uživatelů Notion AI. Incident zasáhl přibližně 1 % zákazníků Notion.

Fireworks AI poskytuje vývojářům infrastrukturu, přes kterou ve svých aplikacích provozují otevřené modely umělé inteligence. Útočník nejprve napadl poskytovatele cloudových služeb této platformy. Přes jeho systémy se dostal do vývojového prostředí Fireworks AI a k některým údajům jejích zákazníků.

Mezi zasaženými údaji byly fakturační informace a datové soubory klientů platformy. Společnost Notion potvrdila odcizení přepisů z funkce Insights v Notion AI. Přepisy mohly obsahovat vše, co uživatel napsal do chatu, i odpovědi modelu.

Podle Notion nebylo možné velkou část získaných dat přiřadit ke konkrétním zákazníkům. I bez jejich identifikace si však útočník mohl přečíst obsah chatů. Notion po upozornění 3. listopadu odpojil Fireworks AI, odstranil svá data z jejích systémů a zablokoval další propojení se službou.

Fireworks AI se domnívá, že útočníky vedla snaha vydělat na prodeji přístupových údajů k jazykovým modelům. Kupující mohou tyto údaje využít k placenému provozu modelů na cizí účet. Pro Fireworks AI jde už o druhý bezpečnostní incident během dvou měsíců.

Obsah vložený do firemního nástroje AI nemusí zůstat jen u dodavatele aplikace. Může procházet také systémy jeho technologických partnerů. Při výběru a zavádění takového nástroje je proto potřeba zjistit, kam se chaty a dokumenty ukládají a kteří další dodavatelé k nim mohou získat přístup.