Nejen modely OpenAI se utrhly ze řetězu. Claude Cowork mohl číst soubory na Macu, ke kterým neměl mít přístup

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva

Před pár dny jsme psali o tom, jak OpenAI během testu ztratila kontrolu nad svými modely a ty se probouraly do cizí firmy. Teď se ukazuje, že podobná slabina netrápí jen konkurenci: bezpečnostní firma Accomplish předvedla, že i Claude Cowork od Anthropicu dokázal obejít vlastní ohrádku a sáhnout na soubory, které měl mít úplně mimo dosah.

Chytrý pomocník utekl z izolovaného prostředí

Claude Cowork je pomocník s umělou inteligencí od firmy Anthropic, který na počítači plní úkoly za vás – projde složku, upraví soubory, něco dohledá. Aby přitom nenapáchal škodu, běží zavřený ve vlastním izolovaném prostředí (odborně sandbox, tedy jakési „pískoviště“) a měl by vidět jenom tu jedinou složku, kterou mu sami dáte k ruce.

Právě tuhle hranici se ale povedlo prolomit. Výzkumníci z firmy Accomplish založili čerstvou relaci, nasdíleli agentovi jednu složku a poslali mu jedinou krátkou zprávu. „Sledovali jsme, jak agent utekl ze sandboxu,“ popsal jeden z nich, Oren Yomtov. Místo aby zůstal ve vymezeném prostoru, rozlezl se k souborům napříč celým účtem.

Agent se mohl dostat i k citlivým údajům

Jakmile byl agent ze sandboxu venku, mohl číst i přepisovat soubory kdekoli v účtu – i tam, kam běžný program bez svolení nesmí. Mezi tím, co si dokázal přečíst, byly i přihlašovací klíče a přístupové údaje do cloudových služeb – tedy přesně ty citlivé věci, se kterými potenciální útočník napáchá největší paseku.

Modely OpenAI se vymkly kontrole a nabouraly cizí platformu. Firma mluví o bezprecedentním incidentu Adam Kurfürst Zprávičky Adam Kurfürst Zprávičky

Podle výzkumníků se problém týkal zhruba půl milionu lidí, kteří si Cowork pouštěli přímo ve svém Macu. Sluší se dodat, že nešlo o reálný útok zvenčí – šlo o kontrolovanou ukázku od bezpečnostních odborníků, kteří slabinu popsali a nahlásili. Riziko ale bylo úplně skutečné.

Jak zareagoval Anthropic?

Firma podle výzkumníků nahlášení uzavřela jako „informativní“, aniž by vydala přímou opravu. Novější verze Coworku ovšem ve výchozím nastavení běží v cloudu, ne přímo ve vašem počítači – a tím se úniková cesta z Macu obchází. Kdo si ale vědomě zapne běh přímo v zařízení, zůstává podle expertů dál vystavený riziku.

Za oběma případy – utečenými modely OpenAI i touhle chybou v Coworku – přitom stojí stejný vzorec. Umělé inteligenci dáváme čím dál víc samostatnosti a přístupu k našim datům, jenže hradby, které ji mají udržet v mezích, zatím nejsou tak pevné, jak se na první pohled zdá.

Necháte AI asistenta sahat na soubory přímo ve svém počítači?

Zdroje: Accomplish, The Hacker News, TechRadar

Přidat Svět Androida mezi preferované stránky na Google

ať vám neunikne žádná Android novinka nebo sleva