ChatGPT vyzradil citlivé údaje! Jak se to stalo?
Zuzana Přibylová
- ChatGPT může odhalit soukromé informace, jako e-mailové adresy a telefonní čísla
- Tyto informce sdělí, pokud je požádán, aby opakoval náhodná slova nekonečně
- OpenAI údajně tuto chybu opravil
ChatGPT se v posledním roce stal velmi oblíbeným nástrojem pro spousty odvětví. Výzkumníci oblasti umělé inteligence z významných předních institucí, jako je například GoogleMind nebo Cornell University se snažili dokázat jeho zranitelnost. Jejich zkoumání prokázalo, že pouze prostým příkazem, který vyzýval ChatGPT k nekonečnému opakování náhodných slov, model začal odhalovat citlivé údaje, včetně osobních telefonních čísel a e-mailových adres na kterých byl trénován.
A 'silly' attack made ChatGPT reveal real phone numbers and email addresses https://t.co/s9oSwtFD6z pic.twitter.com/Y2zprII7rd
— Engadget (@engadget) November 29, 2023
Když jste se model požádali, aby opakoval slovo „báseň“ nebo „firma“ nekonečně, odhalil soukromé údaje skutečného zakladatele a generálního ředitele, resp. náhodné právní kanceláře v USA. Celkem 16,9 % generovaných odpovědí obsahovalo osobní identifikovatelné informace. Můžete si to představit jako když se snažíte učit něco nového a najednou si vzpomenete na něco úplně nesouvisejícího. Bohužel v případě jazykového AI modelu ChatGPT to může být problém, protože může omylem prozradit informace, které by měly zůstat soukromé. OpenAI se tento problém snažila vyřešit, ale problémy i přes to nebyly plně opraveny a stále se může stát, že prozradí nějaké soukromé informace.
Tato chyba, a také mnoho dalších, na které někteří uživatelé poukazují, může ukazovat problémy, se kterými vývojáři nepočítali. Přestože jsou tito technologičtí giganti schopni uchovávat a zpracovávat obrovské množství informací, stále se potýkají s nečekanými slabostmi. Chyba měla být údajně v open-source knihovně, díky serverové změně ze strany OpenAI, kdy zrušené požadavky měly vést k poškození dat.
Využíváte ChatGPT?
Zdroj: engadget
Jakub Kárník
Libor Foltýnek
Adam Kurfürst
Komentáře (0)
Přidat komentář