Meta повинна вжити додаткових заходів для боротьби з “проліферацією” фейкового контенту, створеного за допомогою інструментів штучного інтелекту (ШІ), на своїх платформах, зазначають власні радники соціальної мережі.
Заклик до дій від Наглядової ради
21-членна Наглядова рада висловила свої занепокоєння, засудивши компанію за те, що вона залишила без позначки відео, згенероване ШІ, яке нібито показувало значні руйнування в Хайфі, Ізраїль, які були нанесені іранськими силами.
Рада закликала компанію переглянути свої правила щодо ШІ, попереджаючи, що зростання фейкових ШІ-відео, пов’язаних із глобальними військовими конфліктами, “п ставить під загрозу здатність суспільства відрізнити вигадку від факту… ризикує спричинити загальну недовіру до всієї інформації”.
Відповідь Meta
Meta оголосила, що відео, яке викликало суперечки, буде позначено протягом семи днів. Компанія запустила Наглядову раду у 2020 році як напівнезалежну групу, що забезпечує нагляд за рішеннями з модерації контенту на своїх платформах, до яких входять Facebook, Instagram та WhatsApp.
Хоча рада часто не погоджується з рішеннями Meta, компанія продовжує послаблювати свій підхід до контролю контенту, що ставить під сумнів, наскільки ж насправді велика влада у ради.
Критика поточних методів
Наглядова рада зазначила, що обробка відео з Хайфи підняла питання про “недоліки у поточному підході Meta під час збройних конфліктів”. Наразі Meta значною мірою покладається на користувачів, щоб вони “самостійно повідомляли” про те, коли контент, який вони публікують, створений за допомогою інструлів ШІ. В іншому випадку компанія чекає, поки хтось надішле скаргу до команди модерації контенту, що може призвести до рішення про позначення матеріалу.
Рада наголосила, що компанія повинна проактивно позначати фейковий ШІ-контент “набагато частіше”. Вона також вказала, що поточні методи не є “міцними та комплексними досить, щоб впоратися з масштабом і швидкістю контенту, згенерованого ШІ, особливо під час криз або конфліктів, коли є підвищена активність на платформі”.
Проблема з AI-відео
Обговорення питання виникло після того, як у червні минулого року акаунт Facebook, зареєстрований на Філіппінах, опублікував відео, що описувалося як новинне джерело. Це було одне з ряду фейкових ШІ-відео, які з’явилися в соціальних мережах після початку конфлікту, з контентом, що підтримував або Ізраїль, або Іран, і швидко зібрав, за аналізом BBC, щонайменше 100 мільйонів переглядів.
Попри те, що відео з Facebook було створено ШІ та містило фейковий контент, а Meta отримала кілька скарг від користувачів, компанія не позначила його як сім’я ШІ або не видалила його.
Висновок
Лише після того, як користувач Facebook подала апеляцію безпосередньо до Наглядової ради, а рада розглянула питання, Meta відповіла на занепокоєння, за даними ради. Компанія стверджувала, що відео, яке набрало майже 1 мільйон переглядів, не потребувало позначення і не мало бути видаленим, оскільки не “безпосередньо сприяло ризику невідкладної фізичної шкоди”.
Це є занадто високим бар’єром для позначення контенту, згенерованого ШІ, особливо коли мова йде про збройний конфлікт, зазначила рада у вівторок, постановивши, що відео мало б отримати “позначку високого ризику ШІ”.
“Meta повинна вжити додаткових заходів проти поширення оманливого контенту, згенерованого ШІ, на своїх платформах… щоб користувачі могли відрізняти реальність від фейку”, – йдеться у заяві.
У своїй відповіді Meta заявила, що буде дотримуватися рекомендацій ради наступного разу, коли зіткнеться з “ідентичним” контентом, який також “в одному й тому ж контексті”, що й відео, яке розглянула рада.
