TikTok umožnil uživatelům vytvářet videa generovaná AI, citují Usámu i Hitlera
Jana Skálová
- TikTok umožnil uživatelům generovat škodlivá videa s využitím AI
- Chyběl vodoznak i další ochranné prvky
- V testování AI hodlá TikTok pokračovat
Zhruba před týdnem spustil TikTok funkci Symphony Avatars, která se stala součástí balíčku TikTok Symphony. Jedná se o virtuálního asistenta, který má firmám i jednotlivcům umožnit rychleji a snadněji generovat reklamy za pomoci umělé inteligence. V případě Symphony Avatars pak mohou ve vytvářených videích využívat i přednastavené avatary (tedy podobizny zaplacených herců).
Symphony Assistant není určen pro všechny uživatele TikToku – je potřeba mít nejprve zřízený TikTok Ads Manager. Jenže v prvních pár dnech se k možnosti generování videí s pomocí AI dostalo mnohem víc lidí, než by mělo. TikTok podcenil bezpečnost a funkci zpřístupnil všem svým uživatelům.
Všiml si toho také reportér CNN Jon Sarlin, který dokázal i s běžným účtem bez problému vytvořit AI generované video s využitím jakéhokoliv z avatarů a s jakýmkoliv scénářem. Aby ukázal, jak snadno se dá tento nástroj zneužít, nechal jednoho avatara recitovat Mein Kampf, druhého zase hlásit poselství Usámy bin Ládina z Dopisu Americe. Obě videa vypadala naprosto uvěřitelně a s tvorbou reklamy na TikToku neměla nic společného. A navíc byla bez vodoznaku nebo jiného ochranného prvku označujícího, že jde o video generované s pomocí AI.
NEW: TikTok released an AI video generator. We found it recited “Mein Kampf" and Osama Bin Laden on command with no watermarks. It pulled access after CNN asked them about it. https://t.co/6RRtPl6s0v pic.twitter.com/hubruBVtDx
— Jon Sarlin (@jonsarlin) June 21, 2024
Vzápětí po tomto upozornění společnost TikTok přístup k tvorbě reklamních videí s pomocí AI avatarů upravila, respektive mu dala rychlou stopku, a prohlásila, že šlo o technickou chybu. Žádná škodlivá videa tvořená umělou inteligencí by se navíc prý na síť nedostala, protože by neprošla přes přísné zásady pro obsah. „TikTok je lídrem v odvětví odpovědné tvorby AIGC a budeme pokračovat v testování a zabudovávání bezpečnostních opatření,“ nechalo se slyšet vedení společnosti.
Adam KurfürstCo si myslíte o bezpečnosti na TikToku?
Zdroje: Pixabay.com, TikTok, Android Police, X/Twitter
Komentáře (5)
Přidat komentář