
Stavět si vlastní AI, nebo koupit hotové. Jak se rozhodnout, ať neproděláte
Většina firemních AI projektů nikdy nedojede do provozu a důvod málokdy bývá technika. Kdy se vlastní vývoj vyplatí, kdy je to drahá past a podle čeho se rozhodnout.
OpenAI ukázalo svůj první vlastní čip. Jmenuje se Jalapeño a firma ho vyvinula společně s Broadcomem. Má efektivněji zvládat výpočty pro ChatGPT a programovacího pomocníka Codex a počítá se s ním i pro budoucí modely.
Podle OpenAI první testy ukazují, že čip zvládne výrazně víc práce na watt spotřebované energie než to, co je dnes na trhu. Přesná čísla firma teprve měří, ale směr je jasný: provoz modelů má být levnější.
Důvod je prostý. Skoro každý, kdo dnes staví umělou inteligenci, kupuje čipy od Nvidie. Ta se kvůli tomu stala nejcennější firmou světa. Velcí hráči jako Google nebo Amazon proto už nějakou dobu stavějí čipy vlastní, aby na jednom dodavateli neviseli. OpenAI se k nim teď přidává. Dohoda s Broadcomem počítá s výpočetním výkonem pro deset gigawattů, Jalapeño je z toho první kus.
Tlak na zlevnění není náhodný. OpenAI míří na burzu a bude muset ukázat, že dokáže vydělávat. Provoz modelů přitom stojí obrovské peníze, a tak má smysl uhlídat si co nejvíc vlastní technikou. Sám prezident firmy Greg Brockman říká, že čím víc si jí postaví sami, tím levněji můžou inteligenci nabízet dál.
Kdo dnes umělou inteligenci platí jako službu, sleduje hlavně účet na konci měsíce. Ten z velké části tvoří cena za výpočetní výkon, a právě tu se velcí poskytovatelé snaží stlačit dolů vlastním křemíkem. Jestli jim to vyjde, levnější provoz se časem promítne i do ceny nástrojů, které firmy denně používají.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.