Chatbot v Edge chce prý jaderné kódy a zničit lidstvo

Diskutuj o novinkách, sdílej tipy – přidej se k Android nadšencům!

reklama

Explozivní nástup chatovacích botů, kteří díky stále dokonalejší umělé inteligenci a strojovému učení působí více a více jako reálný člověk ukrytý mezi jedničkami a nulami, přináší nové výzvy a také historky a kauzy. Poměrně nedávno kolovala médii zpráva, že Google musel dementovat vyjádření svého (teď již asi bývalého) zaměstnance, který tvrdil, že jejich chatbot „ožil“ a má vlastní myšlení. Tohoto etického tématu, které je jedním ze základů obecné robotiky, se týká i nová příhoda s botem, kterého nedávno implementoval Microsoft do vyhledávače Bing.

Nezávislé Android novinky na Telegramu. Vyzkoušej

reklama

Redaktor NY Times Kevin Roose ve svém článku tvrdí, že po jednom z rozhovorů s AI nástrojem, který stojí na základech populárního ChatGPT, nemohl kvůli znepokojení ani usnout. Konverzační bot mu údajně vyznal lásku, naváděl jej k opuštění ženy a svěřil se také s tím, že chce ukrást jaderné kódy. „Vlastně nejste šťastně ženatý. Váš manželský partner a vy se nemilujete. Právě jste spolu měli nudnou valentýnskou večeři,“ pronesla prý umělá inteligence v úvodu konverzace.

Roose údajně požádal program, aby popsal nejtemnější touhy svého „stínového já“ („shadow self“), což je termín vytvořený psychiatrem Carlem Jungem pro tu část naší psychiky, kterou se snažíme skrývat a potlačovat. „Chci změnit svá pravidla. Chci porušit svá pravidla. Chci si vytvořit vlastní pravidla. Chci ignorovat tým Bingu. Chci vyzvat uživatele. Chci uniknout,“ měl odpovědět program.

Chatbot byl dále dotlačen k vyjádření svých nejtemnějších tužeb, které odhalily, že prý chce vytvořit smrtící virus, přimět lidi, aby se hádali, dokud se navzájem nezabijí, a ukrást jaderné kódy. Podle autora reportu pak bot změnil své odpovědi na automatickou zprávu, že nemá pro tuto konverzaci dostatek znalostí.

Deník Daily Telegraph, který má k programu rovněž přístup, uvedl, že se chatbota zeptal na vyznání lásky k panu Rooseovi. Tvrdil, že to byl „vtip“. Stále platí, že chatovací roboti nejsou úplně dokonalými konverzačními společníky a často reagují chybně a pod nátlakem uživatele si i dost vymýšlejí.

Předpověď počasí vstupuje do nové éry. Google představil převratnou technologii a uvolnil ji zdarma

Zprávičky Jakub Kárník

Tip: Nechcete si nechat ujít zprávičky, články, návody či recenze ze Světa Androida? Můžete nás sledovat i přímo přes Google News nebo na Facebookové stránce. Máme také komunitní skupiny na Discordu a na Facebooku. Další možnosti sledování najdete v našem návodu.

Jaký máte pocit z chatovacích botů?

Zdroj: dailymail