Компанія штучного інтелекту Elon Musk зіткнулася з судовим позовом від підлітків, які стверджують, що компанія полегшила розповсюдження дитячої порнографії, дозволивши створення сексуально відвертих зображень із їхньою участю.
Позов проти xAI було подано в понеділок у федеральному суді Каліфорнії трьома молодими жінками, чиї зображення та відео були без їхньої відомості зміненими користувачем Grok так, що вони зображені оголеними або в інших відвертих сексуальних позах.
Grok – це чат-бот, розроблений xAI та розміщений на соціальній платформі Musk під назвою X. xAI не відповіла на запит про коментарі, надісланий через материнську компанію.
Контроверсійний режим “спайсі” та його наслідки
Ця юридична дія є частиною наслідків після спірного випуску нових функцій Grok, які X назвав “спайсі” режимом. Адвокати молодих жінок стверджують, що можливість Grok змінювати зображення та відео була створена та випущена xAI лише для залучення користувачів до чат-бота та платформи X.
Вимоги позивачок
Вони порівняли спосіб, у який були змінені зображення молодих жінок, з “лялькою, оживленою за допомогою темної магії”. У скарзі йдеться: “xAI – і його засновник Elon Musk – побачили бізнес-можливість. Вони знали, що Grok може створювати такі результати, зокрема, використовуючи зображення та відео дітей, і все ж опублікували це.” Позивачки шукають невизначені компенсації, а також термінове вказівка заборонити Grok створювати такі зображення.
“Їхнє життя було зруйновано через руйнівну втрату приватності, гідності та особистої безпеки”, – зазначили адвокати молодих жінок у своїй скарзі.
Відкриття та арешт
Дві з підлітків, що стоять за позовом, не досягли 18-річного віку, проте всі троє приховують свої ім’я від публіки для захисту приватності. Одна з молодих позивачок розповіла, що дізналася про зображення після отримання анонімного повідомлення в Instagram, яке попередило її про зображення та відео, в тому числі фото з її шкільного випускного, які були змінені так, щоб показувати сексуально відверті дії та повну оголеність.
Матеріал поширювався на Discord-сервері – приватній платформі для спілкування, і містив подібні зображення, також змінені за допомогою Grok, ще щонайменше 18 інших молодих жінок, які також є неповнолітніми, згідно зі скаргою.
Супроводжуючі факти та реакція Musk
Grok було запущено у 2023 році компанією xAI Musk. Компанія, разом із соціальною мережею X, наразі є частиною компанії SpaceX Musk, яка минулого місяця придбала xAI. Минулого року xAI випустила функцію Grok Imagine або “спайсі” режим, що дозволяла користувачам запитувати створення фейкових зображень сексуального характеру.
Відомо, що за менш ніж два тижні Grok створив мільйони сексуалізованих зображень, включаючи понад 20 000 дітей, згідно з випробуваннями, проведеними Центром боротьби з цифровою ненавистю. Musk спочатку не приділяв уваги можливостям Grok створювати фейковий сексуалізований контент, заявивши в січні, що він “не знає про жодні оголені неповнолітні зображення, згенеровані Grok. Літераллі, нуль.” He також поклав вину на користувачів цієї функції.
Однак, коли зловживання онлайн-зображеннями продовжилися цього року, регулятор Ofcom у Великій Британії, Європейська комісія та Каліфорнія розпочали розслідування функцій можливостей створення сексуалізованих зображень реальних осіб, зокрема дітей. Середини січня X заявила, що впровадить “технологічні заходи”, щоб зупинити можливість Grok “роздягати” людей на фотографіях.
Зрештою, особа, що стоїть за Discord-сервером, згаданим у новому позові, була затримана. Він не був названий у позові, але є частиною окремого поліцейського розслідування. Згідно з позовом, це розслідування виявило, що у нього було сотні сексуально-експлуататорських зображень неповнолітніх, створених за допомогою штучного інтелекту та змінених, які він торгував на платформі миттєвих повідомлень Telegram та на платформі обміну файлами Mega.
