K děsivě schopnému modelu Claude Mythos se dostala neoprávněná skupina. Anthropic ho nevydal kvůli hrozbám ze zneužití

Umělá inteligence v posledních letech doslova mění svět. S vývojem stále schopnějších modelů se ale zvyšuje také riziko, že jejich schopnosti někdo zneužije například k hackingu nebo vývoji zbraní. Přesně z tohoto důvodu se společnost Anthropic rozhodla svůj nejnovější model Claude Mythos vůbec nevydat běžným uživatelům – tvůrci se obávají, že by ho útočníci mohli zneužít k průlomovým kybernetickým útokům. Nyní se však ukazuje, že i tak model skončil v rukou lidí, kteří k němu neměli mít přístup.

Jak se skupina k modelu dostala

Zprávu o neoprávněném přístupu k Mythosu přinesl server Bloomberg, podle něhož se k modelu dostala „hrstka“ lidí ze soukromého Discord serveru zaměřeného na vyhledávání informací o nevydaných AI modelech. Paradoxem je, že skupina k průniku údajně nepotřebovala žádný sofistikovaný útok – prý postačilo odhadnout, kde se model na internetu nachází.

Online lokaci modelu totiž skupina vydedukovala z dřívějších konvencí pojmenování, které Anthropic používal. Ty unikly letos v březnu při datovém úniku u AI startupu Mercor. Jeden z členů skupiny pak navíc měl disponovat privilegovaným přístupem jako zaměstnanec třetí strany, která pro Anthropic pracuje jako dodavatel. Další postup popisuje Bloomberg jako metody, které běžně používají bezpečnostní výzkumníci.

Anthropic potvrdil, že případ prošetřuje. „Prošetřujeme zprávu o údajném neoprávněném přístupu k modelu Claude Mythos Preview prostřednictvím prostředí jednoho z našich externích dodavatelů,“ uvedla firma v oficiálním vyjádření. Zvlášť zarážející je skutečnost, že průnik se odehrál ve stejný den, kdy Anthropic model oficiálně zpřístupnil vybraným partnerům, jako jsou Apple nebo Goldman Sachs.

Co vůbec Claude Mythos dokáže

Claude Mythos jedním z nejnovějších přírůstků do rodiny modelů Claude od americké společnosti Anthropic, která konkuruje dalším významným hráčům, jako jsou OpenAI či Google. Podle tvůrců jde o model s mimořádnými schopnostmi v oblasti kybernetické bezpečnosti a hackingu, ve kterých překonává i zkušené lidské specialisty. Představen byl začátkem dubna a hned se stal předmětem diskusí mezi regulátory, bankéři i zákonodárci.

Anthropic tvrdí, že Mythos dokáže sám najít a zneužít zero-day zranitelnosti ve všech hlavních operačních systémech a internetových prohlížečích. Během testů model odhalil tisíce závažných chyb, přičemž ta nejstarší byla v systému ukrytá neuvěřitelných 27 let, aniž by si jí kdokoliv všiml. Britský AI Security Institute (AISI) navíc potvrdil, že Mythos byl prvním modelem, který úspěšně dokončil 32krokovou simulaci kybernetického útoku – zvládl ji ve třech z deseti pokusů.

Proč Anthropic model nevydal

Schopnosti Claude Mythos jsou podle Anthropicu natolik nebezpečné, že namísto veřejného vydání zvolila společnost jinou cestu. Spustila iniciativu Project Glasswing, v rámci níž ke modelu pustila jen dvanáct vybraných technologických firem. Mezi partnery figurují velká jména jako Amazon Web Services, Apple, Microsoft, Google, Nvidia, Broadcom, Cisco, CrowdStrike či Palo Alto Networks. Přístup dostala také Linux Foundation, celkem pak má podle vyjádření Anthropicu k modelu přístup přes 40 organizací, které mají zodpovědnost za kritickou softwarovou infrastrukturu.

Cílem je podle ředitele Anthropicu Daria Amodeie využít schopnosti modelu k posílení obrany proti kybernetickým útokům, nikoliv je ponechat v rukou potenciálních útočníků.

Obavy z modelu však už vyslovili i regulátoři. Kanadský ministr financí François-Philippe Champagne ho označil za „neznámou neznámou“, která si zaslouží pozornost všech ministrů financí, a guvernér Bank of England Andrew Bailey sdělil BBC, že banka pečlivě sleduje, co jaký vliv může mít současný vývoj AI na riziko kybernetické kriminality.

Narušitelé si s modelem prý jenom hrají

Navzdory tomu, že jde o potenciálně jeden z nejnebezpečnějších AI modelů současnosti, se zdá, že ti, kdo k němu získali neoprávněný přístup, nemají v plánu páchat škodu. Člen skupiny pro Bloomberg uvedl, že Mythos nepoužívají k žádným zlovolným účelům – místo toho s ním například staví jednoduché webové stránky. Skupina mu měla dokonce poskytnout živou ukázku a screenshoty dokazující, že k modelu skutečně přístup má.

Skupina si však rovněž nárokuje přístup k dalším nevydaným modelům Anthropicu, což pochopitelně vyvolává otázky ohledně toho, jak dobře má společnost své interní systémy zabezpečené. Paradoxní je situace zvlášť u modelu, o kterém sám Anthropic tvrdí, že jeho schopnosti mohou zásadně přetvořit kybernetickou bezpečnost, jak ji známe.

Byť se v tomto případě naštěstí nezdá, že by únik vedl k zneužití, vyvolává vážné pochybnosti. Pokud si s modelem, který měl být tak pečlivě střežen, zvládne „jen tak pro zábavu“ poradit skupina lidí z Discordu, je otázkou, co by se zadařilo někomu se skutečně zlými úmysly. A přesně před tímto scénářem experti na kybernetickou bezpečnost varují už od samotného představení Mythosu.

Měl by Anthropic přehodnotit svůj přístup k vývoji tak mocných AI modelů?

Zdroje: The Guardian, BBC, Mashable, Bloomberg