Skandální zjištění v AI! Vědci objevili podezřelé materiály

- Stanfordští vědci objevili podezřelé obrázky v databázi Laion-5B
- Na této databázi je postaven např. Stable Diffusion nebo Imagen
- Databáze obsahovala více než 3226 obrázků znázorňujících sexuální zneužívání dětí
Hlídací skupina Stanfordské univerzity ve spolupráci s Kanadským centrem pro ochranu dětí v těchto materiálech identifikovali nezákonný materiál a okamžitě tvůrce této databáze konfrontovali. Jediné vyjádření, kterého jsme se ze strany vývojářů dočkali, mohlo působit jako přiznání viny a samozřejmě že na odstranění škodlivých souborů pracují.What is wrong not just with LAION, but all the scraping of our images and writings to train AI.
— Remmelt [email protected], [email protected] (@RemmeltE) January 2, 2024
Let’s shut this down.
Because we care. https://t.co/hAMc3cjlMv pic.twitter.com/U65VeQp5zc
Firma má politiku nulové tolerance pro nelegální obsah. Spolupracujeme s organizacemi, jako je IWF a další, abychom ověřili odkazy v datových sadách pomocí filtrovacích nástrojů vyvinutých naší komunitou a partnerskými organizacemi, abychom zajistili jejich bezpečnost.
Jak tento spor dopadne a zda-li bude mít dlouhodobé následky v kontrolování tréninkových dat, je zatím nejisté, avšak tento případ může být prvotním katalyzátorem pro zavádění přísnějších regulací a kontrol v oblasti tréninkových dat podobných modelů. Mnoho aktivistických skupin se také rozhodlo za zrušení podobných databází bojovat a podnikají prvotní kroky v podobě peticí.LAION has a zero tolerance policy for illegal content. We work with organizations like IWF and others to validate links in the LAION datasets with filtering tools developed by our community and partner organizations to ensure they are safe. https://t.co/SStsqukbFK
— LAION (@laion_ai) December 20, 2023
Myslíte, že dojde k regulacím tréninkových AI dat?
Zdroj: Cyber.Fsi, LaionO autorovi
Zuzana Přibylová
Od dětství ji fascinovaly nejnovější technologie, počítače a veškeré druhy herních konzolí. S PlayStationem 1 a později Xboxem 360 začala její vášeň pro herní svět,… Více o autorovi
Mohlo by vás zajímat

Android Auto dostane schopnějšího asistenta! Takto (zhruba) vypadá Gemini v akci

Fotky Google dají uživatelům větší kontrolu, chyby AI půjde opravit
