ChatGPT vyzradil citlivé údaje! Jak se to stalo?

ChatGPT
  • ChatGPT může odhalit soukromé informace, jako e-mailové adresy a telefonní čísla
  • Tyto informce sdělí, pokud je požádán, aby opakoval náhodná slova nekonečně
  • OpenAI údajně tuto chybu opravil

ChatGPT se v posledním roce stal velmi oblíbeným nástrojem pro spousty odvětví. Výzkumníci oblasti umělé inteligence z významných předních institucí, jako je například GoogleMind nebo Cornell University se snažili dokázat jeho zranitelnost. Jejich zkoumání prokázalo, že pouze prostým příkazem, který vyzýval ChatGPT k nekonečnému opakování náhodných slov, model začal odhalovat citlivé údaje, včetně osobních telefonních čísel a e-mailových adres na kterých byl trénován.

Když jste se model požádali, aby opakoval slovo „báseň“ nebo „firma“ nekonečně, odhalil soukromé údaje skutečného zakladatele a generálního ředitele, resp. náhodné právní kanceláře v USA. Celkem 16,9 % generovaných odpovědí obsahovalo osobní identifikovatelné informace. Můžete si to představit jako když se snažíte učit něco nového a najednou si vzpomenete na něco úplně nesouvisejícího. Bohužel v případě jazykového AI modelu ChatGPT to může být problém, protože může omylem prozradit informace, které by měly zůstat soukromé. OpenAI se tento problém snažila vyřešit, ale problémy i přes to nebyly plně opraveny a stále se může stát, že prozradí nějaké soukromé informace.

Tato chyba, a také mnoho dalších, na které někteří uživatelé poukazují, může ukazovat problémy, se kterými vývojáři nepočítali. Přestože jsou tito technologičtí giganti schopni uchovávat a zpracovávat obrovské množství informací, stále se potýkají s nečekanými slabostmi. Chyba měla být údajně v open-source knihovně, díky serverové změně ze strany OpenAI, kdy zrušené požadavky měly vést k poškození dat.

Využíváte ChatGPT?

Zdroj: engadget

Zuzana Přibylová
O Autorovi - Zuzana Přibylová

Od dětství ji fascinovaly nejnovější technologie, počítače a veškeré druhy herních konzolí. S PlayStationem 1 a později Xboxem 360 začala její vášeň pro herní svět,… více o autorovi

Mohlo by vás zajímat

Komentáře (0)