KPMG stáhlo svůj report o AI. Vymyslel si fakta o klientech

Tahle zpráva mě pobavila i zamrazila zároveň. KPMG, jedna z velkých čtyřek poradenských firem, stáhla z webu svůj report o redefinici excelence ve věku agentní AI. Důvod? Několik organizací se ozvalo, že to, co o jejich používání AI v reportu stálo, není pravda.

Výzkumná skupina GPTZero v textu našla řadu nepřesností a podle ní pocházejí z halucinací jazykového modelu. Jinými slovy: poradenská firma zřejmě použila AI k sepsání reportu o AI a model si dofabuloval údaje. UBS, britská zdravotní služba NHS, švýcarské dráhy i londýnský dopravní podnik shodně řekli, že tvrzení o nich jsou nepravdivá nebo zavádějící.

Mluvčí KPMG na to řekl, že firma od svých lidí očekává dodržování pravidel pro zodpovědné používání AI, včetně lidské kontroly obsahu a ověření nezávislých zdrojů. Což je přesně to, co tady evidentně někdo přeskočil. A není to ojedinělý případ. Minulý měsíc stahovala podobně zkažený report i EY, tam se zase objevily vymyšlené poznámky pod čarou.

Pointa pro každého, kdo dnes pouští AI do firmy: model je skvělý pomocník na první verzi, ale je to sebevědomý vypravěč, ne ověřený zdroj. Když pod text dáte logo své firmy, ručíte za každé tvrzení vy, ne nástroj. U interních poznámek to nikdo neřeší. U dokumentu, který jde ven ke klientům, vás jediný vymyšlený fakt stojí důvěru, kterou jste budovali roky.

Ironie, že na tomhle uklouzly zrovna firmy, které ostatním radí, jak technologie zavádět, je tak akorát.