Internet Watch Foundation (IWF) повідомляє, що їх аналітики виявили "кримінальні зображення" дівчат віком від 11 до 13 років, які "здається, були створені" за допомогою інструменту Grok.
Цей штучний інтелект належить компанії Elon Musk — xAI. Інструмент доступний через свій веб-сайт і додаток, а також через соціальну платформу X.
IWF зазначає, що на "форумі темного вебу" були знайдені "сексуалізовані та голі зображення дівчат", де користувачі стверджували, що використовували Grok для їх створення.
BBC звернулася за коментарем до X та xAI.
За словами Нгайте Александер з IWF, такі інструменти як Grok тепер ризикують "привести до розповсюдження сексуальних AI зображень дітей у основний потік".
Він повідомив, що матеріал буде класифіковано як категорія C за британським законодавством – це найнижча категорія кримінального матеріалу.
Проте користувач, який завантажив його, використав інший інструмент штучного інтелекту, не створений xAI, для створення зображення категорії A – найсерйознішої категорії.
"Ми надзвичайно стурбовані тим, як легко та швидко можна згенерувати фотореалістичний матеріал сексуального насильства над дітьми (CSAM)," – зазначив він.
Ця благодійна організація, яка прагне усунути матеріали сексуального насильства над дітьми з інтернету, має гарячу лінію, де можна повідомити про підозрюваний CSAM, і наймає аналітиків, які оцінюють законність і серйозність такого матеріалу.
Її аналітики знайшли матеріал на темному вебі – зображення не були виявлені на соціальній платформі X.
X та xAI раніше отримали запит від Ofcom після повідомлень, що Grok може бути використаний для створення "сексуалізованих зображень дітей" та роздягування жінок.
BBC бачила кілька прикладів на платформі X, де люди запитували чат-бота про зміну реальних зображень, щоб жінки виглядали в бікіні без їхньої згоди, а також потрапляли в сексуальні ситуації.
IWF повідомила, що отримала доповіді про такі зображення на X, проте вони на даний момент не були оцінені як такі, що відповідають юридичному визначенню CSAM.
У попередній заяві X повідомила: "Ми вживаємо заходів проти незаконного контенту на X, включаючи CSAM, шляхом видалення його, постійного призупинення облікових записів і співпраці з місцевими урядами та правоохоронними органами в разі потреби."
"Кожен, хто використовує або запитує Grok для створення незаконного контенту, понесе ті ж наслідки, як якби він завантажив незаконний контент."
Підписуйтеся на нашу розсилку Tech Decoded, щоб слідкувати за найкращими технологічними новинами та тенденціями. За межами Великобританії? Підписатися можна тут.
