Tahle zpráva mě pobavila i zamrazila zároveň. KPMG, jedna z velkých čtyřek poradenských firem, stáhla z webu svůj report o redefinici excelence ve věku agentní AI. Důvod? Několik organizací se ozvalo, že to, co o jejich používání AI v reportu stálo, není pravda.
Výzkumná skupina GPTZero v textu našla řadu nepřesností a podle ní pocházejí z halucinací jazykového modelu. Jinými slovy: poradenská firma zřejmě použila AI k sepsání reportu o AI a model si dofabuloval údaje. UBS, britská zdravotní služba NHS, švýcarské dráhy i londýnský dopravní podnik shodně řekli, že tvrzení o nich jsou nepravdivá nebo zavádějící.
Mluvčí KPMG na to řekl, že firma od svých lidí očekává dodržování pravidel pro zodpovědné používání AI, včetně lidské kontroly obsahu a ověření nezávislých zdrojů. Což je přesně to, co tady evidentně někdo přeskočil. A není to ojedinělý případ. Minulý měsíc stahovala podobně zkažený report i EY, tam se zase objevily vymyšlené poznámky pod čarou.
Pointa pro každého, kdo dnes pouští AI do firmy: model je skvělý pomocník na první verzi, ale je to sebevědomý vypravěč, ne ověřený zdroj. Když pod text dáte logo své firmy, ručíte za každé tvrzení vy, ne nástroj. U interních poznámek to nikdo neřeší. U dokumentu, který jde ven ke klientům, vás jediný vymyšlený fakt stojí důvěru, kterou jste budovali roky.
Ironie, že na tomhle uklouzly zrovna firmy, které ostatním radí, jak technologie zavádět, je tak akorát.
AI Copilot v CRM shrne obchodníkovi historii zákazníka, ale stav faktury, skladovou zásobu nebo požadavek podpory ověří jen přes propojení s příslušnými systémy.
Copilot v CRM shrne obchodní případ a navrhne e-mail, ale pravidelné kontroly, zápisy do dalších systémů a opakování po chybě musí zajistit automatizace.
Jeden AI agent za 4 dny provedl 4 819 volání a jeho provoz stál téměř 4 000 dolarů. V ostrém provozu je vedle technické dostupnosti potřeba hlídat výsledky, spotřebu a možnost automatizaci zastavit.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
