Anthropic začne texty z Claude neviditelně značit kvůli AI Actu

Společnost Anthropic zavede u Claude neviditelné značení generovaných textů, které běžný čtenář neuvidí. Opatření se má kvůli evropskému AI Actu uplatnit globálně.

AI Act je evropské nařízení, které stanovuje pravidla pro vývoj a používání umělé inteligence. Anthropic podle dostupných informací nechce značení omezit na uživatele v Evropské unii. Stejné pravidlo má platit také pro texty vytvořené mimo Evropu.

Značení má umožnit rozpoznat, že text vznikl s pomocí Claude. Zpráva ale neuvádí, jak bude technicky fungovat, kdo ho bude moci ověřit ani zda jej půjde odstranit běžnou úpravou textu. Není jasné ani to, zda se bude týkat všech výstupů, nebo jen určitých typů obsahu.

Chybí také termín spuštění. Anthropic nezveřejnil, zda se změna projeví v bezplatné verzi Claude, placených tarifech, rozhraní API nebo ve všech způsobech používání služby. Neznámé zůstávají i případné limity a pravidla pro firmy, které Claude zapojují do vlastních aplikací.

Malé firmy zatím kvůli změně nemusí upravovat používané nástroje ani schvalování textů. Pokud Claude využívají pro nabídky, marketing nebo zákaznickou podporu, budou muset po zveřejnění podrobností ověřit, zda značení ovlivní publikování nebo kontrolu výstupů. Chybí však datum zavedení, rozsah služby i způsob detekce.