Розробка ефективної політики у сфері нових технологій, зокрема генеративного штучного інтелекту (GenAI), є надзвичайно складним завданням для державних органів. Це пов’язано з відсутністю точних інструментів для вимірювання матеріального впливу цих технологій на суспільство. Проблеми пов’язані з демократією загострюються, особливо у рік виборів, коли виклики, пов’язані з GenAI, можуть мати далекосяжні наслідки.
Проблема вимірювання
Вимірювання негативних наслідків інтеграції GenAI в різні процеси є необхідним для розуміння масштабів змін, яких можуть зазнати демократії. Це не лише дозволить підготуватися до загроз, а й провести адекватну політику реагування. Серед викликів відзначаються ускладненість у визначенні причин та наслідків технологічних впливів.
Чотири основних питання
Під час воркшопу, організованого Проектом інформаційного середовища Карнегі, були визначені чотири основні питання для глибшого розуміння впливу GenAI:
- Як виявити, що GenAI дійсно був використаний для створення контенту?
- Яка базова лінія змін, з якою буде порівнюватися результат?
- Чи є система, що вивчається, контрольованою або складною?
- Яким чином оцінюється складність системи?
Використання GenAI у складних системах
Складні системи, такі як демократія, вимагають детального аналізу. Наприклад, вивчення впливу GenAI на динаміку виборів потребує комплексного підходу, адже впливають численні зовнішні фактори, включаючи соціальні мережі та традиційні ЗМІ. На прикладі США, дослідники можуть оцінити, як технології GenAI можуть негативно впливати на доступ до інформації про вибори.
Можливі наслідки використання GenAI
Використання GenAI у маніпуляціях з інформацією може призвести до серйозних наслідків, включаючи дезінформацію, підвищення масштабів впливових операцій та зниження загального рівня довіри до демократичних інститутів. Проте, щоб виявити ці ефекти, необхідно встановити базові лінії, на яких можна буде проводити вимірювання зміни.
Висновки
Необхідно активізувати дослідження, щоб краще зрозуміти, як GenAI впливає на суспільні процеси та демократичні інституції. Наразі існує потреба у розробці нових методів вимірювання впливу, а також забезпеченні прозорості в розробці технологій, що дозволяє запобігти негативним наслідкам.
