Americká vláda nařídila vypnout Claude Fable 5. Argumentuje národní bezpečností

Anthropic musel ze dne na den znepřístupnit svůj nejvýkonnější jazykový model. Stojí za tím direktiva americké vlády opírající se o národní bezpečnost. Model Claude Fable 5 přitom firma představila teprve 10. června – od jeho uvedení tak uplynuly sotva dva dny.

Anthropicu nezbylo než vypnout model úplně

Anthropic ve svém prohlášení uvádí, že direktivu obdržel 12. června v 17:21 washingtonského času (tedy po jedenácté večer našeho času). Příkaz vychází z exportních pravidel a nařizuje pozastavit přístup k modelům Fable 5 a Mythos 5 pro všechny zahraniční státní příslušníky, a to jak mimo USA, tak uvnitř země – včetně zahraničních zaměstnanců samotné firmy. V praxi to znamenalo, že Anthropic musel oba modely vypnout pro všechny zákazníky, aby pravidlu vyhověl. Ostatní modely společnosti zůstávají podle jejího vyjádření dostupné beze změny.

Spor o údajné prolomení Claude Fable 5

Vláda podle Anthropicu odůvodnila krok tím, že se dozvěděla o metodě, jak obejít bezpečnostní zábrany modelu – takzvaně jej „jailbreaknout“. Konkrétní bezpečnostní detaily ale direktiva neobsahuje a důkazy podle firmy zazněly jen ústně. Popsaná technika spočívá v tom, že uživatel modelu předloží konkrétní zdrojový kód a požádá ho o opravu softwarových chyb. Anthropic tvrdí, že jde o úzkou, nikoli univerzální zranitelnost, kterou navíc nabízejí i konkurenční modely.

Claude Fable 5 je revoluční model jako Mythos, ale bezpečnější. Díky tomu s ním můžete pracovat i vy Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Jak se Anthropic brání

Firma s pozastavením nesouhlasí. Argumentuje, že stahovat z provozu komerční model, který používají stovky milionů lidí, kvůli úzké zranitelnosti je nepřiměřené – a že kdyby se stejné měřítko uplatnilo na celé odvětví, fakticky by to zastavilo nasazování všech nových modelů. Podle Anthropicu jsou navíc ochranné mechanismy Fable 5 účinnější než u kteréhokoli dříve nasazeného modelu a univerzální způsob, jak je obejít, zatím nikdo nenašel.

Anthropic uvedl, že příkaz respektuje a že pracuje na obnovení přístupu. Další podrobnosti slíbil zveřejnit do 24 hodin od svého oznámení. Jak se k věci postaví regulační úřady a zda se modely k uživatelům vrátí, zatím není jasné.

Měla by mít vláda pravomoc nařídit vypnutí komerčního modelu umělé inteligence?

Zdroje: Anthropic, BBC News