Компанія Anthropic призупинила своє нове потужне AI-моделювання всього через декілька днів після його публічного випуску, коли влада США висловила занепокоєння щодо безпеки.
Заборона на використання для іноземців
У заяві, оприлюдненій на своєму веб-сайті, Anthropic оголосила, що отримала наказ про заборону використання Claude Fable 5 іноземцями, назвавши програму “забагато потужною”.
“Чистий ефект цього наказу полягає в тому, що ми повинні різко вимкнути Fable 5 та Mythos 5 для всіх наших клієнтів, щоб забезпечити відповідність”, — йдеться в заяві компанії.
Справа з адміністрацією Трампа
Anthropic і адміністрація Трампа ведуть окремий судовий процес щодо наказу про заборону використання AI-інструментів компанії державними установами. BBC звернулася за коментарем до Міністерства торгівлі США.
Потужності Claude Fable 5
Claude Fable 5 є версією Claude Mythos від Anthropic, програми, що конкурує з ChatGPT від OpenAI та Gemini від Google.
Anthropic зазначила, що національні органи безпеки США не вказали конкретні проблеми.
Метод “ув’язнення”
“Наше розуміння полягає в тому, що уряд вважає, що дізнався про метод обходу, або “ув’язнення” Fable 5″, — повідомила компанія.
Ув’язнення — це процес, який дозволяє обійти програмні обмеження, створені для захисту кібермережі, що дає змогу хакерам отримувати доступ до чутливої інформації або розблокувати функції.
Вразливості в безпеці
“Ми переглянули демонстрацію цього конкретного методу, що використовується для виявлення невеликої кількості відомих, несуттєвих вразливостей”, — заявила Anthropic.
“Ці вразливості здаються відносно простими, і ми виявили, що інші загальнодоступні моделі також можуть їх виявляти без необхідності обходу”.
Привід для занепокоєння
Напередодні випуску Claude Fable 5 компанія акцентувала на “заходах безпеки”, які вона впровадила для запобігання кіберзломам. Лідери фінансової, технологічної та урядової сфер висловлювали занепокоєння щодо його публічного запуску після того, як в квітні провела приватний випуск для перевірки вразливостей у своїй системі.
Реакція Європейського Союзу
Європейський Союз, який отримав доступ до Mythos на початку червня після кількох тижнів переговорів, зазначив, що останній розвиток подій підкреслює “потребу Європи в технологічному суверенітеті”.
Обмеження в доступі до моделі
Професор відповідального AI в Університеті Квін Мері в لندن, Джина Нефф, зазначила, що рішення обмежити доступ до моделі може обмежити розвиток та безпечне тестування цих AI-систем.
Вона попередила, що це також може обмежити співпрацю з урядами по всьому світу.
Політичне втручання
Компанія Anthropic опинилася під прицілом адміністрації Трампа нещодавно. Дональд Трамп публічно критикував компанію та називав її “ризиком для ланцюга постачання”, що стало першим випадком, коли американська компанія отримала таке позначення.
Це позначення означає, що інструмент або послуга не є достатньо безпечними для використання урядом, і історично резервується для компаній з ворожих країн.
Anthropic подала позов до Пентагону після цього позначення, і суддя США вирішив, що вказівка Пентагону не може бути виконана, що означає, що державні установи та організації, які працюють із військовими США, все ще можуть використовувати технології Anthropic, поки триває судовий процес.
