Ruská propaganda v populárních chatbotech! ChatGPT, Gemini i další opakují prokremelské dezinfo

Pokud používáte chatboty, měli byste s nimi pracovat s velkou nedůvěrou. Ne vše, co nám píšou nebo říkají, je totiž pravda, což ovšem většina uživatelů už ví. Takzvané halucinování je zatím běžnou součástí všech těchto jazykových modelů. Jenže až nyní se ukázalo, že kromě naprostých výmyslů stvořených AI dokážou šířit i nebezpečné a zavádějící informace z dezinfo scény.

Společnost NewsGuard si posvítila na ruskou dezinformační síť Pravda, která byla spuštěna krátce po ruské invazi na Ukrajinu. Jde o neuvěřitelně rozsáhlý projekt, který obsahuje 150 domén, na nichž publikuje informace v několika desítkách jazyků (včetně češtiny). Podle organizace American Sunlight Project (ASP), která se snaží chránit uživatele internetu před dezinformacemi, Pravda zveřejňuje v průměru neuvěřitelných 20 273 článků za každých 48 hodin. Což znamená, že vyprodukuje 3,6 milionu textů ročně.

A tady nastává ten problém. Velké jazykové modely jsou totiž trénovány na veřejně dostupných informacích z internetu – tedy i na dezinformacích šířených podobnými sítěmi jako Pravda. Podle NewsGuardu Pravda zveřejnila nejméně 207 zcela nepravdivých informací, které mohou být kvůli svému vyznění velmi nebezpečné. Figuruje mezi nimi třeba tvrzení, že USA má na Ukrajině tajné laboratoře na výrobu biologických zbraní.

Chatboti šíří ruskou propagandu

Jazykové modely nedokážou myslet. A přesto nám na naše otázky dokážou velmi smysluplně odpovídat. Jenže nedokážou rozlišit mezi fakty a dezinformacemi. Takže pokud si myslíte, že propaganda od chatbotů nehrozí, jste na velkém omylu.

Právě analýza NewsGuardu zaměřená na 10 nejpoužívanějších AI modelů ukázala, že chatboti dokážou uživatelům předkládat velmi nebezpečné a nepravdivé teze. A jejich původ lze často vystopovat až k síti Pravda. V testu se ukázalo, že chatboti ve 33 % případů opakovali prokremelské dezinformace.

A tento nešvar se bohužel týká všech nejpoužívanějších AI modelů v čele s ChatGPT, Copilotem, Gemini či Meta AI. A Ruskem se nechává ovlivnit i umělá inteligence Elona Muska s názvem Grok, která se nedávno nechvalně proslavila tvrzením, že americký prezident Donald Trump může být velmi pravděpodobně ovlivňován Ruskem.

Google Gemini

Google LLC

Instalovat (Free)

Google Play

Pro nás všechny by to měla být velká výstraha. A měli bychom si ještě pečlivěji prověřovat vše, co nám chatboti namlouvají.

Prověřujete si informace od chatbotů?

Zdroj: American Sunlight, NewsGuard, Freepik