Utrhla se AI z řetězu? ChatGPT 4o začal mluvit hlasem uživatele

Open AI zveřejnila zprávu, ve které se mimo jiné zmiňuje o incidentu, kdy ChatGPT 4o najednou začal mluvit hlasem člověka, se kterým komunikoval. OpenAI zveřejnil i příslušnou nahrávku, můžeme si tedy sami udělat názor na to, o jak moc věrné napodobení šlo.

ChatGPT 4o nabízí nový způsob komunikace. Už předchozí verze uměly komunikovat hlasem, ale tehdy šlo o nezávislý převod hlasu na text, ten se pak zpracovával pomocí AI a výsledek byl opět převedený na hlas. ChatGPT 4o ale pracuje přímo se zvukem a také zvuk přímo generuje. Nedochází tedy ke ztrátě intonace a emočního zabarvení. ChatGPT 4o by ale neměl v žádném případě být schopen napodobovat cizí hlas. Přesněji řečeno, on toho technicky schopen je, ale kontrolní mechanismy tomu mají zabránit.

Problém je v tom, že riziko zneužití by bylo obrovské. Představte si, že namluvíte jakékoliv video na Instagram nebo YouTube, někdo si to stáhne a naučí ChatGPT 4o váš hlas a pak zavolá vašemu kamarádovi s prosbou o pomoc ve stylu „uvíznul jsem na benzince, můžeš mně poslat litr na účet?“. O zneužití hlasů známých osobností například v předvolební kampani raději ani nemluvě.

ChatGPT

OpenAI

Instalovat (Free)

Google Play

OpenAI tvrdí, že zamezilo tomu, aby ChatGPT 4o napodoboval cizí hlasy, a že omezil hlasový výstup na hlasové vzorky, které získal od zaplacených herců. To je určitě krok správným směrem, jenže pořád je tu otázka, kolik dalších  selhání ještě může nastat. A jak se k tomu postaví jiné AI, například Muskův Grok?

Jak mluvit s ChatGPT?

Pokud si chcete vyzkoušet konverzaci s ChatGPT, můžete například v mobilní aplikaci. Ovšem pokud se vám, tak jako mně, zobrazí pouze ikona sluchátek, znamená to, že stále komunikujete se starým engine.

Máte obavy ze zneužití hlasu v ChatGPT 4o?

Zdroj: OpenAI