OpenAI оголосила про зміни в угоді з урядом США, яка отримала ярлик “випадкової та неакуратної” стосовно використання її технологій в класифікованих військових операціях.
У понеділок генеральний директор OpenAI Сем Альтман повідомив, що компанія збирається доповнити угоду, зокрема заборонити використання своїх систем для шпигунства за американцями.
Вихід угоди став відомим в п’ятницю після конфлікту між конкурентом OpenAI, компанією Anthropic, та Міністерством оборони США, що виник через занепокоєння щодо використання її моделі штучного інтелекту Claude для масового спостереження та у повністю автономних озброєннях.
Ця ситуація викликала питання щодо використання штучного інтелекту у війні та розподілу влади між державою і приватними компаніями.
Офіційна заява OpenAI в суботу стверджувала, що угода з Пентагоном має “більше обмежень, ніж будь-яка попередня угода щодо використання штучного інтелекту в класифікованих проектах, включаючи угоду Anthropic”.
Однак у понеділок Альтман заявив у соцмережі X, що планується внести додаткові зміни, щоб забезпечити недопущення “умисного використання для домашнього спостереження американських громадян і націоналів”.
Як частина нових поправок, розвідувальні агентства, такі як Національне агентство безпеки, також не зможуть використовувати систему OpenAI без “додаткових змін” до угоди.
Альтман додав, що компанія визнала помилку, поспішивши з оголошенням “в п’ятницю”.
“Питання дуже складні і вимагають чіткої комунікації”, – сказав він.
“Ми намагалися зменшити ескалацію ситуації та уникнути значного гіршого результату, але це виглядало як спроба скористатися ситуацією і дійсно безладно.”
OpenAI зіткнулась з негативною реакцією від користувачів після оголошення про співпрацю з Пентагоном.
За даними Sensor Tower, кількість користувачів, які видаляють ChatGPT, різко зросла після новини про партнерство OpenAI з Міністерством оборони. Щоденна середня швидкість видалення зросла на 200% у порівнянні з звичайними показниками.
Тим часом модель Claude від Anthropic піднялась на вершину рейтингу App Store Apple, де залишається досі.
Модель штучного інтелекту була заборонена адміністрацією Трампа після відмови Anthropic зняти корпоративний “червоний рядок”, що стосується заборони використання їх технологій для створення повністю автономних озброєнь.
Незважаючи на це, використання Claude в війні між США і Іраном вже стало відомим, повідомляє CBS News.
Пентагон відмовився коментувати свої угоди з Anthropic.
Штучний інтелект використовується в армії багатьма способами, наприклад, для оптимізації логістики або швидкої обробки великих обсягів інформації.
США, Україна та НАТО використовують технології компанії Palantir, яка надає інструменти аналітики для збору розвідувальної інформації, спостереження, боротьби з тероризмом та військових цілей.
Міністерство оборони Великобританії нещодавно підписало контракт з фірмою на суму 240 мільйонів фунтів. У кінці минулого року BBC спілкувалося з деякими учасниками інтеграції платформи Palantir Maven у НАТО.
Програмне забезпечення об’єднує широкий спектр військової інформації, від супутникових даних до розвідувальних звітів, що потім можуть бути проаналізовані комерційними системами штучного інтелекту, такими як Claude, щоб допомогти приймати “швидші, ефективніші та, зрештою, більш летальні рішення, де це доречно”, зазначив Луї Мослі, керівник британського підрозділу Palantir.
Проте великі мовні моделі штучного інтелекту можуть помилятися або створювати неправдиву інформацію, що відомо як “галюцинація”.
Підполковник Аманда Густав, головний офіцер з даних для сили НАТО Maven, підкреслила, що завжди є людський нагляд, додаючи, що вони “завжди забезпечують присутність людини у процесі” і що “ніколи не станеться так, що штучний інтелект прийме рішення замість нас”.
Palantir, на відміну від Anthropic, не підтримує повну заборону на автономні озброєння, але вважає, що має бути “людина в процесі”.
Проте професор Маріарозарія Таддео з Оксфордського університету сказала BBC, що з відходом Anthropic з Пентагону, “найбільш обережний актор” тепер “вийшов з кімнати”.
“Це дійсно проблема”, – додала вона.
Цього тижня BBC проводить спеціальне дослідження штучного інтелекту в рамках тижня AI Unpacked. Щоб дізнатися більше про штучний інтелект і його значення для вас, відвідайте AI Unpacked.
Підпишіться на наш інформаційний бюлетень Tech Decoded, щоб слідкувати за найкращими технологічними історіями та тенденціями у світі. Якщо ви за межами Великобританії, підпишіться тут.
