Vláda USA mohla Claude Fable 5 omezit kvůli Číně. Anthropic to ale popírá

Před pár dny jsme informovali o tom, že americká vláda nechala vypnout Claude Fable 5 kvůli údajné metodě, jak obejít jeho bezpečnostní pojistky. Nová zjištění teď k případu přidávají druhý, citlivější rozměr – obavu, že se k výkonnému modelu Mythos dostala skupina spojovaná s Čínou. Potvrzená není ani jedna verze a Anthropic druhý důvod odmítá.

Druhý důvod, který dosud nezazněl

Když vláda zásah oznámila, veřejně uváděným důvodem byla zranitelnost umožňující obejít bezpečnostní pojistky modelu. Server Semafor ale píše, že paralelně existovala ještě jedna obava: skupina napojená na Čínu měla získat přístup k modelu Mythos. To podle zdrojů serveru představovalo riziko pro národní bezpečnost i možnost, že by konkurence model zpětně analyzovala.

Šlo o Mythos, ne přímo o Claude Fable 5

Domnělý čínský přístup se týká Mythosu – nejvýkonnější třídy modelů Anthropicu, kterou firma od jeho představení nabízela jen prověřeným partnerům. Model podle Anthropicu dokáže vyhledávat chyby v programovém kódu, takže se v nepovolaných rukou mění v nástroj na hledání zranitelností. Claude Fable 5 je jeho veřejná verze s pojistkami, které kyberbezpečnostní využití blokují. Když vláda požadovala omezit přístup k Mythosu jen na americké občany, firma raději stáhla oba modely najednou.

Claude Fable 5 je revoluční model jako Mythos, ale bezpečnější. Díky tomu s ním můžete pracovat i vy Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Co tvrdí vláda a co Anthropic

Poradce Bílého domu pro umělou inteligenci David Sacks uvedl, že když administrativa Anthropic na zranitelnost upozornila, šéf firmy Dario Amodei ji prý neoznačil za vážné riziko a odmítl ji opravit. Podle Sackse dala společnost „přednost dalšímu provozu spotřebitelského modelu před bezpečností“. Na zranitelnost měl podle Semaforu administrativu upozornit i šéf Amazonu Andy Jassy. Anthropic naopak popírá, že by Bílý dům čínský přístup v jednáních o jailbreaku Fable vůbec zmínil, dodává, že přístup ke svým produktům z Číny blokuje, a zranitelnost označuje za úzkou, nikoli univerzální.

Co zatím není jasné

K případu zůstává řada otevřených otázek. Není zřejmé, jak se vláda o údajném čínském přístupu dozvěděla, o jakou skupinu mělo jít ani jakým způsobem se k modelu měla dostat. Žádnou z obou verzí zatím nikdo nezávisle nedoložil. Anthropic uvádí, že na obnovení přístupu pracuje.

Jak by podle vás měly státy regulovat přístup k nejvýkonnějším modelům umělé inteligence?

Zdroje: Semafor, The Verge