Професор Альан Рід з Королівського коледжу Лондона, як звичайний користувач соціальних мереж, не надавав великого значення глибоким фейкам, які іноді з’являлися у його стрічці. Іноді він їх повідомляв, а іноді просто прокручував далі.
Однак одного дня невідомий акаунт позначив його у відео з його власним обличчям.
У цьому відео синтетичний голос, майже ідентичний голосу професора Ріда, з політизованим виглядом гнівно критикував французького президента Еммануеля Макрона, звинувачуючи його та інших західних лідерів у тому, що вони «перебувають на Титаніку, на борту якого написано ‘Європейський Союз’».
«Практично все у цьому відео є обурливим та жахливим для прослуховування», — зазначає доктор Рід, професор театру, який не має жодного зв’язку з політикою, у коментарі для BBC. «Це виглядає для мене абсолютно чужим».
Аватар ненавмисного професора Ріда з’явився у новій хвилі синтетичних відео, пов’язаних з Росією, які захопили соціальні мережі за останні місяці, викликаючи занепокоєння у експертів з безпеки, що західний світ повинен готуватися до боротьби з впливом Кремля у сфері штучного інтелекту.
«Ми спостерігаємо не лише сплеск глибоких фейків, але й зміщення в тому, як виробляється вплив», — говорить Кріс Кремідас-Кортні, аналітик у сфері оборони та безпеки Європейського політичного центру.
«Ми стикаємося з системами, які можуть генерувати… переконливе впливовість у масштабах, які обходяться дешево. Для мене це революція в політичному впливі, і жодна з наших поточних схем управління не готова до цього».
Відео — деякі з яких отримують сотні тисяч переглядів — дискредитують установи ЄС та звинувачують уряд Києва у корупції, поки він намагається отримати фінансування від західних партнерів для продовження боротьби в умовах повномасштабного вторгнення з боку Росії.
Останнє підвищення активності з’явилось через кілька місяців після того, як OpenAI випустила Sora2, останню версію свого програмного забезпечення для генерації відео, що забезпечило стрибок у реалістичності продукту, який вона пропонує.
Конкуруючи за частку ринку у тіні технологічного гіганта, безліч додатків вищого другого ряду намагаються залучити клієнтів, знижуючи ціни або відмовляючись від заходів безпеки, таких як водяні знаки, якими Sora2 маркує свої відео, щоб відрізняти їх від реальних зображень.
«Їм потрібно залучити користувачів», — зазначає російський експерт з ШІ Арман Тугамбаєв, додаючи, що, хоча OpenAI намагається стримати спроби створення відео з конкретними людьми, «додатки другого ряду дозволять вам це зробити».
OpenAI повідомила BBC, що вживає заходів проти акаунтів, які беруть участь у введенні в оману, що призводять до шкоди, зокрема неправильно стверджуючи про походження контенту.
Технологічна гонка підігріла постійне зростання як обсягу, так і складності кампаній іноземного впливу, зміцнюючи позиції Росії в її гібридному конфлікті із Заходом.
Наприкінці грудня серія сгенерованих ШІ відео стала вірусною на TikTok, на яких молоді польські жінки закликали до «Польекзиту», або виходу Польщі з ЄС.
«Немає сумнівів, що це російська дезінформація», — сказав Адам Шлапка, spokesman польського уряду. «Якщо хтось загляне уважно, він може помітити російську синтаксис у цих відео».
Польща закликала Європейську Комісію розслідувати TikTok у зв’язку з інцидентом.
TikTok, який вже видалив кліпи та облікові записи, що їх розмістили, заявив, що у 2025 році він видалив більше 75 таємних операцій впливу по всьому світу.
У Великій Британії депутати обговорювали занепокоєння, що російські глибокі фейки можуть вплинути на місцеві вибори в травні.
«Ми бачили їх широке використання на виборах у всьому світі, тому немає причин вважати, що Британія буде виключенням», — сказав Віджай Рангареджан, генеральний директор Британської виборчої комісії, депутатам.
Закон про онлайн-безпечність у Великій Британії не класифікує дезінформацію як шкоду. Проте він зобов’язує платформи видаляти матеріали, які можуть бути доведені як іноземний вплив, — процес, який часто займає занадто багато часу в онлайн-середовищі, де відео можуть стати вірусними протягом кількох годин.
Пости важко відстежити до їхнього походження, але західні дослідники стверджують, що багато з них мають спільні ознаки — від стильових підказок до патернів розподілу — які пов’язують їх із організованими підрозділами дезінформації, пов’язаними з Кремлем.
Одна з кампаній, відома як Матрешка, або Операція Перевантаження, як вважають, організувала хвилю синтетичних відео, що дискредитують президента Молдови Майю Санду під час її виборчої кампанії у 2025 році.
NewsGuard, організація, що стежить за онлайн-дезінформацією, повідомила, що виявила спільні патерни, що вказують на ймовірно спільну мережу, яка стояла за відео з доктором Рідом.
Назва операції — «матрешки» є російськими матрьошками — відображає її метод, який обгортає оригінальне неправдиве твердження в кілька шарів атмосферних репостів з старих або зламаних соцмереж.
На відміну від традиційних російських пропагандистських видань, таких як RT та Sputnik, які Захід швидко санкціонував на початку вторгнення в Україну, такі кампанії «дозволяють рівень… правдоподібного заперечення, що ускладнює насильства контр-впливу», — зазначає Софі Вільямс-Даннінг, дослідник у галузі кібербезпеки та технологій в Королівському інституті міжнародних справ.
Дослідники з Університету Клемсона пов’язали окрему мережу, відому як Storm-1516 за версією Центру аналізу загроз Microsoft, з ветеранами кремлівської «фабрики тролів», якою керував Євген Пригожин, лідер парамілітарної групи Вагнера, до його смерті у 2023 році.
У майбутньому дослідженні, яке потрапило до рук BBC, академіки навели приклад швидкості, з якою фейкові новини розповсюджуються в соціальних мережах.
Кожного разу, коли кампанія Storm-1516 публікувала неправдивий наратив про Володимира Зеленського, що його звинувачують у «корупції», цей наратив займав приблизно 7,5% усіх обговорень про українського президента в X протягом наступного тижня.
«Це те, чим міг би пишатися будь-яка маркетингова компанія», — сказав Даррен Л. Лінвілл, один з авторів статті.
