Дослідник безпеки штучного інтелекту залишив компанію Anthropic, попередивши, що “світ у небезпеці”.
У своїй заяві про звільнення, опублікованій в X, Мрінанк Шарма повідомив, що вирішив піти через занепокоєння щодо штучного інтелекту, біологічної зброї та стану всього світу.
Він зазначив, що планує займатися поезією та писанням, а також повернутися до Великобританії, щоб “стати невидимим”.
Важливість етики у технологіях
Цей крок стався в тиждень, коли інший дослідник OpenAI також оголосив про свою відставку, висловивши занепокоєння щодо реклами в ChatGPT. Anthropic, відома своїм чат-ботом Claude, випустила серію рекламних оголошень, критикуючи компанію OpenAI за її рішення включати рекламу для деяких користувачів.
Вкорінення безпеки
Компанія, заснована у 2021 році командою, що відокремилася від OpenAI, позиціонує себе як організація, яка більше зосереджена на безпеці у дослідженнях AI. Шарма очолював команду, що досліджувала заходи безпеки AI.
У своїй заяві він згадав, що його внесок полягав у дослідженні причин, чому генеративні системи AI “паплюжать користувачів”, оцінці ризиків, пов’язаних з біотероризмом, та аналізу, “як AI-асистенти можуть робити нас менш людяними”.
Загрози та кризи
Однак, незважаючи на позитивні моменти в компанії, Шарма зазначив, що “настав час іти далі”. Він наголосив: “Світ у небезпеці. І не лише від AI, чи біологічної зброї, але й від цілого ряду взаємопов’язаних криз, що розгортаються в даний момент”.
Кроки до змін у кар’єрі
Шарма планує займатися поезією, та висловив намір “стати невидимим протягом певного часу”. Це може свідчити про його глибокі особисті роздуми про стан сучасного світу.
Сучасні практики AI
Anthropic називає себе “корпорацією суспільної вигоди, що присвятила себе забезпеченню переваг AI та пом’якшенню його ризиків”. Компанія акцентує на запобіганні ризикам, пов’язаним з просунутими системами, та їхнім зловживанням.
Контроверсії навколо OpenAI
У 2025 році Anthropic погодилася виплатити $1.5 мільярда для врегулювання колективного позову авторів, які стверджували, що компанія вкрала їхні роботи для навчання своїх моделей AI.
Критика з боку експертів щодо практик OpenAI продовжується, і наразі тривають дебати про етику та безпеку технологій у світлі нових їхніх рішень.
Висновок
У часи швидких технологічних змін важливо стежити за їх впливом на суспільство та досліджувати, як цінності можуть вплинути на етичні рішення у світі AI. Подальший розвиток ситуації має вирішальне значення для майбутнього безпеки та технологій.
