Останніми тижнями світ штучного інтелекту бурхливо обговорює нову модель від провідної компанії Anthropic, названу Claude Mythos.
Компанія стверджує, що інструмент може перевершувати людей у деяких завданнях крадіжки даних та кібербезпеки, що спонукало до обговорень серед регуляторів, законодавців та фінансових установ щодо потенційних загроз для цифрових сервісів.
Декілька технологічних гігантів отримали доступ до Mythos через ініціативу під назвою Project Glasswing, метою якої є зміцнення стійкості до самого Mythos.
Проте інші вказують на те, що компанії вигідно стверджувати про нові, небачені раніше можливості свого інструменту, що ускладнює розмежування між виправданими твердженнями та гіперболами.
Mythos є однією з останніх моделей Anthropic, розробленою в рамках ширшої системи AI під назвою Claude, яка конкурує з ChatGPT від OpenAI та Gemini від Google.
Цю модель було представлено після попереднього огляду Mythos на початку квітня.
Дослідники, які аналізують, як моделі AI справляються з певними запитами або завданнями в рамках так званих «ред-з команд», зазначили у звіті, що Mythos є «вражаюче здатним у завданнях кібербезпеки».
Вони виявили, що інструмент може знаходити хибні коди, що ховаються в десятилітньому програмному забезпеченні, та легко їх експлуатувати.
Отже, замість того, щоб надати загальний доступ до Claude, Anthropic надала доступ 12 технологічним компаніям через Project Glasswing, який описується як «зусилля для забезпечення безпеки найбільш критичного програмного забезпечення у світі».
До них входять такі гіганти, як Amazon Web Services, Apple, Microsoft та Google, а також виробники чіпів Nvidia та Broadcom.
Crowdstrike, чиє неналежне оновлення програмного забезпечення стало причиною великої глобальної відмови в липні 2024 року, також є партнером проєкту, а Anthropic повідомила, що надала доступ до Mythos більше ніж 40 організаціям, відповідальним за критичне програмне забезпечення.
Anthropic стверджує, що під час тестів модель виявилася високоосвіченою у завданнях кібербезпеки та крадіжки даних, перевершуючи людей. «Mythos Preview вже виявив тисячі вразливостей високого рівня, включаючи деякі в кожній основній операційній системі та веб-браузері», – заявила Anthropic 7 квітня.
«Враховуючи темпи прогресу в галузі AI, незабаром такі можливості можуть стати поширеними, можливо, навіть серед тих, хто не прагне їх безпечно використовувати», – додали вони.
Компанія заявила, що могла б знаходити – без значного контролю – критичні баги, що потребують термінового реагування в старих системах, включаючи одну вразливість, яка існувала в системі протягом 27 років, та пропонувати способи їх експлуатації.
Деякі міністри фінансів, центральні банкири та фінансисти висловили серйозні занепокоєння, побоюючись, що модель може підірвати безпеку фінансових систем.
Канадський міністр фінансів Франсуа-Філіп Шампань розповів BBC, що Mythos обговорювався на засіданні Міжнародного валютного фонду (МВФ) у Вашингтоні цього тижня.
«Це, безсумнівно, настільки серйозно, що варто стежити за цим усім фінансовим міністрам», – сказав він, описуючи цю технологію як «невідоме невідоме».
Голова Банку Англії Ендрю Бейлі в інтерв’ю BBC також зазначив, що «ми змушені дуже уважно розглядати, що може означати цей останній розвиток AI для ризику кіберзлочинності».
Тим часом Європейський Союз також веде переговори з Anthropic щодо своїх занепокоєнь щодо Mythos.
Кіаран Мартін, колишній керівник Національного центру кібербезпеки Великої Британії, розповів на BBC, що заява про те, що Mythos може швидше виявляти критичні вразливості, ніж інші моделі AI, «дійсно потрясла людей».
«Другою справою є те, що навіть з існуючими слабкостями, про які ми знаємо, але організації можуть ще не виправити, або можуть бути недостатньо захищені, Mythos є справді добрим хакером», – додав він.
Багато незалежних аналітиків кібербезпеки та експертів ще не змогли протестувати Mythos самостійно, і деякі залишаються скептично налаштованими щодо її продуктивності.
Останнє дослідження Інституту безпеки AI Великої Британії нещодавно дійшло висновку, що, хоча модель дуже потужна, її найбільша загроза може полягати в тому, що вона використовуватиметься проти погано захищених, вразливих систем.
«Ми не можемо з упевненістю стверджувати, чи зможе Mythos Preview атакувати добре захищені системи», – заявили дослідники.
Отже, там, де наявна добра кібербезпека, ця модель, в теорії, сподіваюся, буде зупинена.
Побоювання щодо AI – не новина. Нові моделі та інструменти з’являються постійно та часто супроводжуються обіцянками революціонізувати наше життя, або на краще, або на гірше.
Капіталізація на цьому поєднанні страху та хвилювання з приводу AI та його майбутнього впливу також стала характерною рисою сектора та його маркетингових стратегій останніми роками.
У випадку з Mythos, ми все ще не знаємо достатньо, щоб зрозуміти, чи ці сподівання або страхи обґрунтовані, чи більше є відображенням гіперболи, що оточує цю індустрію.
У будь-якому разі, за даними NSCS, найважливіше, що ми можемо зробити зараз, це не панікувати, а зосередитись на необхідності з правильними основами кібербезпеки.
Зрештою, більшість хакерів не потребують супер AI-інструментів для проникнення в системи, коли простіші атаки часто бувають достатніми.
«Для когось це апокаліптична подія, для інших це здається просто гіперболою», – сказав Мартін BBC.
Проте, чи це інструмент Mythos, чи подальші розробки Anthropic або його конкурентів, поряд із ризиком існує можливість створити безпечніший онлайн-світ.
«У середньостроковій перспективі є можливість використати ці інструменти для виправлення багатьох основних вразливостей в Інтернеті», – підсумував він.
