Співзасновник компанії Anthropic Джек Кларк закликав до уповільнення прогресу штучного інтелекту (ШІ), попереджаючи, що технологія наближається до стадії, коли вона може розвиватися без людського втручання.
«Вам потрібна можливість зняти ногу з газу та натиснути на гальма», — заявив Кларк в інтерв’ю BBC Newsnight. «Зараз виглядає так, ніби у індустрії ШІ є педаль газу, але немає педалі гальма».
Він підкреслив, що людям, через політику уряду, необхідно зберігати контроль над системами ШІ, які тільки стають потужнішими і матимуть ширший вплив на суспільство.
«Світ потребує продуманого підходу, і нам у підсумку потрібні нові регуляції, які дозволять нам бути впевненими в цих системах», — зазначив він.
Вже зараз популярний чат-бот компанії Anthropic, Клауд, працює на коді, 80% якого система написала самостійно. Кларк сказав, що досягнення 100% є можливим протягом двох років, що «матиме величезні наслідки».
Хоча Кларк не окреслив, як можна створити «педаль гальма» для досліджень та розробок у сфері ШІ, він провів паралель між ШІ та нафтовим бумом та баронами на початку минулого століття.
«Відповідь суспільства полягала в тому, щоб розробити розумну політику та регуляторну структуру, яка давала б людям впевненість у нафті та її перевагах, і вказувала б на те, що не потрібно турбуватися про особистісні якості людей, які керують компаніями», — зазначив Кларк. «Там, де ми, безумовно, опинимося тут».
Проте цього тижня Anthropic привітала указ президента США Дональда Трампа про ШІ, який мав відносно м’який підхід до регуляції компаній.
Указ не вимагав від компаній з ШІ піддаватися перевіркам безпеки з боку уряду, що залишається добровільною ініціативою.
Великі компанії, такі як Anthropic, OpenAI та Google, що прагнуть досягнень у цій технології, також не заявили про намір призупиняти власні дослідження.
Anthropic настільки швидко зросла з моменту свого заснування п’ять років тому, що вже готується до виходу на публічний фондовий ринок.
Вона має шанси стати однією з перших публічних пропозицій від нової компанії ШІ і одним з найцінніших у історії, оскільки її оцінка оцінюється приватними інвесторами майже в $1 трлн (£745 млрд).
Кларк зазначив, що мотивація Anthropic для публічного обговорення зростаючих можливостей технології ШІ не направлена на покращення репутації компанії серед платних клієнтів.
Він просто хоче «сказати світу, що ми бачимо всередині цих компаній з цю незвичайну технологією».
З моменту свого заснування генеральним директором Дарио Амодеї, Кларк та кілька інших керівників Anthropic відкрито заявляють про потенційні ризики, пов’язані зі ШІ.
Компанія навіть вступила в публічний конфлікт з Міністерством оборони США через побоювання, що її інструменти ШІ можуть використовуватися для масового спостереження за американцями та автономної війни.
«Я стурбований за своїх дітей, якщо ми як суспільство не проведемо серйозну розмову про те, що означають продовження розвитку ШІ», — сказав Кларк в інтерв’ю Newsnight. «Є потенційно великі переваги. Є також ризики».
Кларк додав, що однією з загроз є порушення економіки, із побоюваннями, що технологія ШІ, така як «агенти» — по суті, індивідуальні боти ШІ, які проводять рутинні завдання в деякому роді автономно, можуть взяти на себе певні роботи.
Великі технологічні компанії зазнали масових звільнень за останній рік, часто посилаючись на зростаючі можливості інструментів ШІ виконувати роботу сотень чи навіть тисяч програмістів.
Кларк сказав, що люди, які є більш креативними та мають більше впливових ідей, можуть насправді мати перевагу над технологією ШІ.
«Існують відкриті питання про те, чи можуть системи ШІ бути справді креативними… наразі немає жодних доказів цього», — додав він. «В Anthropic нас зараз більше обмежує можливість генерувати хороші ідеї, ніж можливість здійснити інженерію, щоб реалізувати ці ідеї».
Проте Кларк зазначив, що молодий чоловік, який може відчувати, що економіка, основана на ШІ, не має місця для нього, повинен «розвинути хобі» та отримати освіту в галузі гуманітарних наук.
«Люди, які є креативними і можуть мислити широко, люди, які багато читають, люди, які мають інтереси, є тими, хто найбільше виграє від цього», — сказав Кларк. «Займіться цікавинкою, і це повернеться, з тим, як ви можете використовувати цю технологію».
