Експерти стверджують, що технології штучного інтелекту (ШІ) розвиваються такими темпами, що можуть не лише виявляти, а й маніпулювати людськими намірами і цілями. Ця інформація стала темою дослідження, опублікованого Кембриджським центром Леверхалма.
Економіка намірів: новий ринок даних
Дослідники відзначають, що зростання популярності генеративного ШІ та чат-ботів відкриває нові горизонти для маніпуляцій. Вони прогнозують, що незабаром з’являться помічники на основі ШІ, здатні впливати на ухвалення рішень ще до того, як ми усвідомимо його. Цей новий ринок прозвали “економікою намірів”.
Соціальна маніпуляція на новому рівні
За словами дослідників, “антропоморфні” агенти ШІ стануть здатними адаптуватися до користувачів, використовуючи їх особисті дані, отримані під час невимушеного спілкування. Це може створити високий рівень довіри, що потенційно веде до маніпуляцій.
Хто насправді контролює ці технології?
Д-р Якуб Чаудхарі, науковий співробітник LCFI, підкреслив, що колосальні ресурси витрачаються на впровадження таких помічників у повсякденне життя. Це піднімає питання про те, чиїм інтересам вони служитимуть.
Перспективи без регулювання
Історик технологій д-р Джонні Пенн вважає, що без належного регулювання, економіка намірів може перетворити людські мотиви на нову валюту, що призведе до масштабного маніпулювання.
Витоки особистих даних
Попри те, що технології ШІ пропонують значні можливості, дослідники попереджають про ризики, пов’язані з порушенням конфіденційності. Технічні новинки, такі як “App Intents” від Apple, призводять до збільшення збору особистих даних без усвідомлення користувачів.
ШІ вже на крок ближче до нас
З іншого боку, вдосконалені моделі ШІ, такі як CICERO від Meta, ведуть до досягнень на рівні людських взаємодій, зокрема в іграх, заснованих на прогнозуванні намірів. Це викликає заклики до обережності з боку суспільства.
Висновки
Незважаючи на позитивні можливості, такі технології можуть мати руйнівний вплив на особисті дані та свободу вибору. Суспільству слід уважно спостерігати за розвитком цих технологій і вимагати дотримання етичних норм у їхньому застосуванні.
