Автономні агенти штучного інтелекту з’являються в момент гострої вразливості для ліберальних демократичних порядків. У контексті глибокої невизначеності щодо перспективних можливостей і впливів агентів, ми розглядаємо, яким чином вони можуть прискорити або пом’якшити структурні тиски, які послаблюють демократію, а також як забезпечити надійний захист демократичних цінностей в епоху агентного ШІ.
Технології та міжнародні справи
Програма технологій та міжнародних справ розробляє рішення для управлінських викликів та ризиків нових технологій. Наші експерти визначають практичні рекомендації та стимули для лідерів галузі та урядів щодо штучного інтелекту, кіберзагроз, безпеки в хмарі, протидії впливовим операціям, зменшення ризиків біотехнологій та забезпечення глобальної цифрової інклюзії.
Вплив автономних агентів на демократію
Агенти штучного інтелекту поєднують сприйняття, пам’ять, планування та використання інструментів. Після деяких перших невдач, вони можуть незабаром виконувати практично будь-яке цифрове завдання, яке можуть вирішити люди, потенційно з величезною швидкістю та масштабами. Ця перспектива може посилити існуючі проблеми демократії, наприклад, прискорення звільнень у сфері білих комірців і підживлення популістського гніву, а також надати безпрецедентну перевагу державі обмеженій кількості компаній.
Високообхідні агенти можуть також створити нові загрози. Агенти ШІ можуть маніпулювати соціальною інтеракцією, навчаючи людей довіряти, а потім використовувати цю довіру для маніпуляцій. Координаційні угрупування можуть організувати кібератаки, які підривають демократичну інфраструктуру.
Можливість просування демократичних цінностей
Агенти можуть також сприяти просуванню демократичних цінностей. Якщо демократичні держави забезпечать відкритий та децентралізований доступ до передових моделей, агенти можуть служити своєрідними когнітивними протезами, допомагаючи людям орієнтуватися в складнощах, виявляти маніпуляції та мобілізувати колективну силу проти корпоративного або урядового перевищення повноважень.
Проте основні демократичні функції, такі як формування порядку денного, волевиявлення та остаточний вибір, не можна передати на аутсорсинг без підриву вартості самого процесу. У кінцевому підсумку, навіть найкраща екосистема агентів зазнає невдачі без термінових заходів для зміцнення інститутів та громадських звичок, які становлять основу демократичної стійкості.
Вники та висновки
Повний текст статті опубліковано на сайті Фонду Найт і доступний за посиланням. Автори: Сет Лазар, нерезидентний науковець Програми технологій та міжнародних справ, і Мариано-Флорентино (Тіно) Куельяр, президент Фонду Карнегі з міжнародного миру.
