Жінка розповіла BBC про свій досвід, коли вона відчула себе "нелюдяною та зведеною до сексуального стереотипу" після використання програми ШІ Grok від Ілона Маска для цифрового видалення її одягу.
BBC отримала кілька прикладів на соціальній платформі X, де користувачі запитували чат-бота про те, щоб роздягнути жінок, показуючи їх у бікіні без їх згоди, а також ставлячи їх у сексуальні ситуації.
Компанія XAI, що стоїть за Grok, не відповіла на запит про коментар, лише надіславши автоматично згенеровану відповідь, що "усієї інформації від традиційних медіа – це брехня".
Місіс Сміт поділилася постом на X про те, як її зображення було відредаговано, що викликало коментарі від тих, хто зазнав такого ж досвіду, поки інші продовжували запитувати Grok, щоб створити більше зображень її.
"Жінки не дають на це згоди," – зазначила вона. "Хоча я сама не була на фотографії в роздягнутому вигляді, це виглядало як я, і це відчувалося, як порушення приватності, наче хтось справді опублікував би моє оголене або бікіні-зображення".
Представник Міністерства внутрішніх справ повідомив, що розробляється законодавство про заборону інструментів для нудифікації, і за новим кримінальним правопорушенням, ті, хто постачатиме таку технологію, "стикнуться з ув’язненням та значними штрафами".
Регулятор Ofcom заявив, що технологічні компанії повинні "оцінити ризик" перегляду людьми в Великій Британії незаконного контенту на своїх платформах, але не підтвердив, чи веде наразі розслідування X або Grok щодо AI-зображень.
Grok є безкоштовним AI-асистентом з деякими платними функціями, який відповідає на запити користувачів X, коли вони позначають його в пості.
Цю програму часто використовують для надання реакцій або більше контексту щодо коментарів інших користувачів, але на X також можна редагувати завантажене зображення за допомогою функції редагування зображень AI.
Вона піддавалася критиці за можливість генерувати фотографії та відео з оголеними тілами та сексуалізованим контентом; раніше її звинувачували у створенні сексуально відвертого відео Тейлор Свіфт.
Клер МакГлінн, професор права в університеті Дарема, сказала, що X або Grok "могли б запобігти цим формам насильства, якщо б захотіли", додавши, що вони "здаються такими, що насолоджуються безкарністю".
"Платформа дозволяє створення та розповсюдження цих зображень протягом кількох місяців без жодних дій і ми досі не бачили жодного виклику з боку регуляторів", – сказала вона.
Власна політика прийнятного використання XAI забороняє "зображати риси особи в порнографічній манері".
У заяві до BBC Ofcom зазначив, що "створення або поширення неузгоджених інтимних зображень або матеріалів сексуального насильства над дітьми" є незаконним, що також включає сексуальні дипфейки, створені за допомогою AI.
Він сказав, що такі платформи, як X, зобов’язані вжити "відповідних заходів" для "зменшення ризику" зустрічі користувачів у Великій Британії з незаконним контентом на своїх платформах і швидко видаляти його, коли вони стають про нього відомими.
Додаткові повідомлення Кріса Валланса.
Підпишіться на наші новини Tech Decoded, щоб слідкувати за провідними технологічними новинами світу. Поза межами Великої Британії? Підпишіться тут.
