ChatGPT v EU začne značit texty neviditelným vodoznakem. Kopírováním nezmizí

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva

Text z ChatGPT může po vložení do e-mailu nebo dokumentu dál nést strojově rozpoznatelnou stopu svého původu. OpenAI oznámilo, že v Evropské unii začne do vybraných textových odpovědí ChatGPT a Codexu přidávat neviditelný vodoznak. Nejde o viditelný podpis pod odpovědí: značka je zakódovaná přímo ve volbě slov, a proto ji samotné zkopírování neodstraní.

ChatGPT v EU, vývojářské API dobrovolně

Nasazování má probíhat během následujících týdnů a zahrnout podporované uživatele ChatGPT a Codexu napříč všemi variantami předplatného v EU. OpenAI tím reaguje na požadavek evropského AI Actu, aby byl generovaný text strojově identifikovatelný. Vývojáři využívající API mohou značení zapnout u vybraných modelů celosvětově, ve výchozím nastavení ale zůstává vypnuté.

Oproti Claudu je tedy zavádění územně užší. Anthropic zvolil globální nasazení a vysvětlil ho tím, že zatím nemá dlouhodobě spolehlivý způsob, jak značení omezit podle regionu. OpenAI naopak nechává automatické značení při spuštění pouze v EU.

Místo podpisu statistický vzorec ve slovech

Technologie se jmenuje textGrain a do výběru slov vnáší neviditelný statistický signál. Technická zpráva popisuje použití tajného klíče při řazení kandidátů na další slovo. Jednotlivé drobné zásahy se v delším textu skládají do vzorce, který může detektor rozpoznat jen s pomocí textu a příslušného klíče. Čtenář žádnou značku neuvidí.

OpenAI uvádí, že v benchmarcích modelu Astra nezaznamenalo smysluplný rozdíl ve výkonu se značením a bez něj. Vodoznak zároveň neobsahuje vazbu na konkrétního uživatele, účet, zadání ani konverzaci. Detekce tak může ukázat stopu systému OpenAI, nikoli zjistit, kdo si text nechal napsat.

Krátké odpovědi a přepisování detekci komplikují

Úspěšnost hodně závisí na délce a obsahu. V testech OpenAI při cílové míře falešně pozitivních výsledků 1 % detektor zachytil vodoznak přibližně u 80 % pasáží dlouhých 200 tokenů a u 95 % pasáží o 400 tokenech, například z oblasti psychologie. U matematiky byly výsledky výrazně slabší: správná odpověď dává modelu méně volnosti ve výběru slov.

Ještě názornější je samostatný test úprav textu. U pasáží o 400 tokenech snížilo nahrazení 10 % slov synonymy úspěšnost detekce z přibližně 92 % na 66 %. Při výměně 25 % slov klesla na 17 %. Jde o výsledky měření OpenAI, ne o univerzální úspěšnost pro libovolný dokument.

Veřejná kontrola textů zatím nebude

Výsledek detekce také neřekne, kolik práce do textu vložil člověk, komu text patří nebo zda jsou jeho tvrzení pravdivá. Ani nenalezený vodoznak nepotvrzuje lidské autorství: překážkou může být krátký či upravený text, nepodporovaný model nebo použití jiné AI.

Právě kvůli přehlédnutým vodoznakům i falešným nálezům OpenAI detektor při spuštění veřejně nezpřístupní. O přístup se mohou ucházet schválení výzkumníci a odborné organizace, jednotlivé žádosti bude firma posuzovat zvlášť. Běžný uživatel tak zatím nedostane veřejný nástroj, do kterého vloží text a ověří přítomnost značky textGrain.

Využili byste nástroj na kontrolu původu textu?

Zdroje: anthropic.com, openai.com, techcrunch.com

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva