Revolut uvádí, že s modelem GLM zkrátil dobu dodání změn o 70 procent

Revolut od dubna používá při programování model umělé inteligence GLM od čínské firmy Z.ai. Podle měření na vzorku dvou tisíc inženýrů se doba psaní kódu zkrátila o 60 procent a doba dodání změny o 70 procent.

Firma předtím nasadila model Gemini od Googlu. Doba psaní kódu klesla o 20 procent. Čas od převzetí úkolu po změnu připravenou k nasazení se zkrátil o deset procent. Programovací asistent Claude Code od Anthropicu podle Revolutu práci výrazně nezrychlil. Náklady na jeho používání u některých vývojářů dosahovaly tisíců až deseti tisíc dolarů měsíčně.

Revolut uvádí, že náklady na GLM dosahují desetiny předchozích výdajů za modely společností Anthropic a OpenAI. Model pro zhruba dva tisíce lidí běží na 56 čipech Nvidia B200. Průměrná cena podle firmy činí 30 centů za milion tokenů. Token je část textu, kterou model při práci zpracovává.

GLM běží na vyhrazených čipech ve Spojených státech. Revolut tvrdí, že firemní data do Číny neposílá. Model nemá přímý přístup ke všem firemním systémům. Smí spouštět jen povolené příkazy a jeho práci kontroluje člověk. Úlohy s obrázky zpracovávají jiné modely.

Srovnání, podle kterého GLM stojí desetinu předchozích modelů, nezahrnuje náklady na cloud, zaměstnance ani dohled nad provozem. Revolut také neuvedl, zda čipy vlastní, nebo si je pronajímá. Odhadovaná nákupní cena 56 čipů se pohybuje mezi 1,7 a 2,2 milionu dolarů. Tým navíc několik měsíců ladil rychlost a nastavení modelu.

Výsledky Revolutu neznamenají, že firemní umělá inteligence obecně zlevnila na desetinu. Při výběru modelu pro programování rozhoduje změřený čas, kvalita výsledku a celkové náklady na konkrétní práci. Vlastní provoz vyžaduje drahé čipy, zaměstnance a měsíce ladění. Omezený test na jednom typu práce může tyto údaje ověřit dřív, než firma investuje do vlastní infrastruktury.