ChatGPT dostane nový režim pro dospělé. OpenAI reaguje na konkurenci

Šéf OpenAI Sam Altman v úterý oznámil, že ChatGPT v prosinci dostane možnost generovat erotický obsah pro dospělé. Firma to zdůvodňuje politikou „zacházet s dospělými jako s dospělými“ a argumentuje tím, že současná přísná omezení dělají chatbota méně užitečným pro většinu uživatelů.

Personalizace a nové režimy konverzace

Plánovaná aktualizace přinese možnost personalizovat ChatGPT podle vlastních preferencí. Uživatelé si budou moci vybrat, jestli chtějí chatbota více lidského, používajícího hodně emoji, nebo třeba takového, co se chová jako kamarád. Nejkontroverznější změnou ale bude povolení erotického obsahu pro ověřené dospělé, které má přijít v prosinci.

Altman v příspěvku na X uvedl, že OpenAI původně nastavilo ChatGPT velmi restriktivně kvůli obavám z problémů s duševním zdravím uživatelů. Firma však podle něj nyní vyvinula nové nástroje, které umožňují bezpečně uvolnit omezení ve většině případů.

Jak bude fungovat ověřování věku

OpenAI použije AI systém na predikci věku, který na základě toho, jak uživatel s ChatGPT interaguje, odhadne, jestli je dospělý nebo dítě. Pokud systém někoho nesprávně označí jako mladistvého, bude muset uživatel nahrát fotografii občanky nebo jiného průkazu totožnosti.

Altman to nazývá „kompromisem v ochraně soukromí, který stojí za to“. Není ale jasné, jaké další ochranné mechanismy firma plánuje, ani jak přesně bude celý systém fungovat. OpenAI zatím neposkytla detaily o metodách ověřování ani o tom, jak budou data uživatelů chráněna.

Nahrání občanky do cloudu je přitom bezpečnostní riziko. Pokud dojde k úniku dat – a u velkých technologických firem k tomu dochází pravidelně – mohou uživatelé přijít nejen o citlivé osobní informace, ale i o detaily svých sexuálních preferencí. Na sociálních sítích se k tomu vyjadřují skepticky: „Pokud dáte své ID ChatGPT, abyste si mohli užít, zasloužíte si, co se stane, když vaše data uniknou.“

Elon Musk to zkusil první

OpenAI není první, kdo se pustil do erotického obsahu. Elon Musk nedávno přidal do svého chatbota Grok dva sexuálně explicitní režimy. Character.AI, další platforma s AI chatboty, hlásí, že uživatelé s jejich chatboty tráví v průměru dvě hodiny denně – mnoho z nich si vytvořilo romantické vztahy s virtuálními postavami.

Studie neziskové organizace Center for Democracy and Technology z října ukázala, že 19 % středoškoláků mělo romantický vztah s AI chatbotem nebo zná někoho, kdo ho měl. Erotika v AI tedy není jen záležitost dospělých, což vyvolává otázky kolem efektivity ochranných mechanismů.

Pornografie jako motor technologického pokroku

Pornografie tradičně funguje jako hlavní motor adopce nových technologií. Formát HD DVD prohrál s Blu-ray mimo jiné proto, že pornoprůmysl vsadil na Blu-ray. Smartphony začaly masově růst, jakmile se na nich dal pohodlně konzumovat pornografický obsah.

„Pornografie je nejrychlejší způsob, jak normalizovat a podpořit adopci nové technologie,“ komentoval jeden z uživatelů na Redditu. Erotický obsah v AI chatbotech je tedy logickým pokračováním tohoto trendu – a zároveň efektivní strategií, jak zvýšit engagement a přilákat nové platící uživatele.

Co říkají regulátoři

Americká Federal Trade Commission už zahájila šetření toho, jak AI chatboti interagují s dětmi a mladistvými. V Senátu byl nedávno předložen bipartitní návrh zákona, který by klasifikoval AI chatboty jako produkty, což by umožnilo uživatelům podat žaloby proti jejich výrobcům.

Kalifornský guvernér Gavin Newsom sice nedávno vetoval návrh zákona, který by blokoval nabízení AI chatbotů dětem, ale zdůraznil, že je „nezbytné, aby se adolescenti naučili bezpečně interagovat s AI systémy“.

Rozhodnutí OpenAI povolit erotiku v ChatGPT proto přichází v citlivou dobu, kdy se debata o regulaci AI chatbotů teprve rozbíhá. Zatímco firma tvrdí, že má situaci pod kontrolou, kritici varují, že ochranné mechanismy nemusí stačit – a že společnosti v této oblasti používají lidi jako pokusné králíky.

Přijde vám ověřování přes občanku jako dobrý nápad?

Zdroj: TechCrunch, The Guardian