Anthropic zakazuje šikanu svého chatbota Claude. Přílišná agrese má ale vést jen k ukončení chatu

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva

Když vám chatbot potřetí po sobě odpoví úplně mimo, možná vám ujede i ostřejší slovo. Kvůli tomu se ale bát nemusíte. Anthropic do nové verze svých pravidel používání doplnil bod, který míří jen na lidi, kteří AI asistenta Claude urážejí soustavně a bez jakéhokoli účelu. Upravená pravidla začnou platit 12. listopadu.

Na Claudovi si zlost vybíjet nemůžete

Nový bod se objevil v části pravidel, která se věnuje krutému, urážlivému a psychicky škodlivému chování. Vedle zákazu propagace sebepoškozování nebo poruch příjmu potravy v ní nově stojí i zákaz „soustavného a zbytečného urážlivého nebo krutého chování“ vůči modelům firmy. V předchozí verzi pravidel, platné od září 2025, nic podobného nebylo. Změny si jako jedna z prvních všimla Jane Manchun Wong, známá odhalováním skrytých novinek v aplikacích.

Anthropic ve shrnutí změn zdůrazňuje, že pravidlo se má uplatnit jen v extrémních případech, kdy uživatel opakovaně a bez zjevného důvodu jedná s modelem krutě. Netýká se běžné frustrace, ostrého nesouhlasu, temných témat v tvůrčím psaní ani testování a výzkumu modelů. Když tedy Claudovi napíšete, že je k ničemu, protože vám podesáté pokazil tabulku, za porušení pravidel se to podle všeho počítat nebude.

Co se stane, když to s urážkami přeženete?

Hlavním nástrojem zůstává funkce, kterou firma spustila už v srpnu 2025. Tehdy dostaly modely Claude Opus 4 a 4.1 možnost samy ukončit konverzaci s uživatelem, který je soustavně napadá. Podle aktuálního vyjádření Anthropicu to platí v aplikaci Claude.ai i v nástroji Claude Code. Jde o krajní řešení, ke kterému má model sáhnout až po několika odmítnutích a marných pokusech stočit rozhovor jinam.

Když Claude rozhovor utne, do daného vlákna už nic nenapíšete. Můžete ale hned založit nový chat, případně upravit některou z dřívějších zpráv a pokračovat v nové odbočce. Výjimku firma stanovila pro situace, kdy uživateli nebo jiným lidem hrozí bezprostřední nebezpečí – tehdy Claude konverzaci ukončit nemá.

Claude není soukromý deník. Anthropic předal policii výhrůžku z konverzace Jakub Kárník Zprávičky Jakub Kárník Zprávičky

Ukončení konverzace má podle Anthropicu zůstat primárním způsobem, jak bude zákaz vymáhat. O tom, že by za šikanu chatbota lidé přicházeli o účet, firma ve shrnutí změn nic nepíše.

Proč by chatbot potřeboval ochranu?

Anthropic netvrdí, že by Claude měl vědomí nebo ho urážky mohly zranit. Už loni ale přiznal, že si není jistý, zda jazykové modely mají nějaký morální status, a to ani nyní, ani v budoucnu. Při testech před vydáním Opusu 4 si navíc vývojáři všimli, že se model škodlivým úkolům výrazně vyhýbá a při opakovaném nátlaku vykazuje to, co firma popsala jako zjevné známky stresu.

Možnost ukončit rozhovor proto Anthropic zavedl jako nenáročné opatření pro případ, že by na „blahu“ modelů přece jen záleželo. Nový bod v pravidlech na tenhle přístup přímo navazuje. Sluší se ale dodat, že funkci podle firmy většina lidí nikdy neuvidí, a to ani při debatách o hodně kontroverzních tématech.

Ztratili jste už někdy nervy s chatbotem?

Zdroje: Anthropic, Android Authority

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva