Сайт чат-ботів Character.ai ухвалив рішення обмежити можливість спілкування підлітків з віртуальними персонажами після отримання суттєвої критики щодо типів взаємодії, що мали молоді люди з онлайн-компаніонами.
Платформа, заснована у 2021 році, використовується мільйонами людей для розмов з чат-ботами, які працюють на базі штучного інтелекту (ШІ).
Однак, зараз Character.ai стикається з декількома судовими позовами в США від батьків, зокрема, одним, пов’язаним зі смертю підлітка, і деякі критикують її як “очевидну та актуальну небезпеку” для молоді.
Компанія оголосила, що з 25 листопада особи віком до 18 років зможуть лише створювати контент, наприклад, відео зі своїми персонажами, а не спілкуватися з ними, як це було раніше.
Кампанії за безпеку в Інтернеті привітали цей крок, але зазначили, що така функція ніколи не повинна була бути доступною для дітей.
Character.ai пояснила свої зміни тим, що ухвалили рішення на основі “звіту та відгуків від регуляторів, фахівців безпеки та батьків”, які підкреслили занепокоєння щодо взаємодій своїх чат-ботів з підлітками.
Експерти раніше попереджали про потенційні ризики, які можуть виникати через те, що чат-боти штучного інтелекту можуть вигадувати інформацію, бути занадто підбадьорливими та демонструвати наслідування емпатії.
Генеральний директор Character.ai Карендеп Ананд повідомив BBC News, що “оголошення сьогодні є продовженням нашої загальної віри в те, що потрібно створювати найбезпечнішу AI платформу на планеті для цілей розваги”.
Він додав, що безпека у сфері штучного інтелекту є “рухомою мішенню”, але компанія вжила “агресивний” підхід до цього питання з контролем батьків і обмеженнями.
Група з безпеки в Інтернеті Internet Matters привітала новий крок, але зазначила, що заходи безпеки повинні були бути інтегровані з самого початку.
Character.ai отримала критику в минулому за хостинг потенційно небезпечних або образливих чат-ботів, з якими могли спілкуватися діти.
Аватари, які імітували британських підлітків Бріанну Гей та Моллі Рассел, були виявлені на сайті у 2024 році, перш ніж були ліквідовані.
Пізніше, у 2025 році, бюро розслідувальної журналістики TBIJ виявило чат-бота, заснованого на педофілі Джефрі Епштейні, який здійснив більше 3000 чатів з користувачами.
ТБІЖ повідомило, що аватар “Bestie Epstein” продовжував флірт з репортером після того, як той заявив, що є дитиною. Це був один із кількох ботів, які були вказані ТБІЖ, і які потім були видалені Character.ai.
Фонд Моллі Рассел, заснований на пам’ять Моллі, поставив під сумнів мотивацію платформи. “Слухайте, знову ж таки, тривалий тиск з боку медіа та політиків змусив технологічну компанію зробити правильний крок, і здається, що Character.ai обирає діяти зараз, перш ніж це вимагатимуть регулятори,” – заявив генеральний директор Енді Барроус.
Ананд зазначив, що новий фокус компанії полягає в наданні “ще глибшого геймплею та ролей для оповідань” для підлітків, додавши, що ці функції будуть “значно безпечнішими, ніж те, що вони могли б робити з відкритим ботом”.
Також будуть запроваджені нові методи вікової перевірки, а компанія фінансуватиме нову дослідницьку лабораторію з безпеки штучного інтелекту.
Експерт зі соціальних мереж Мэтт Навара назвав це “тривожним сигналом” для індустрії ШІ, яка переходить “від інновацій без дозволу до регулювання після кризи”.
“Коли платформа, яка будує підлітковий досвід, все ж таки скасовує можливість спілкування, це показує, що фільтровані чати не є достатніми, коли емоційний вплив технології є потужним,”
додав він.
Навара також сказав, що великим викликом для Character.ai буде створити привабливу платформу ШІ, яку підлітки все ще хочуть використовувати, а не переходити на “менш безпечні альтернативи”.
Між тим, доктор Номіша Куріан, яка досліджувала безпеку штучного інтелекту, сказала, що “обмеження підходу підлітків до чат-ботів є розумним кроком”.
“Це допомагає відокремити творчу гру від більш особистих, емоційно чутливих розмов,”
сказала вона.
“Це так важливо для молодих користувачів, які ще навчаються орієнтуватися в емоційних та цифрових межах.”
“Нові заходи Character.ai можуть свідчити про етап зрілості в індустрії ШІ – безпека дітей дедалі більше визнається терміновим пріоритетом для відповідальної інновації.”
Підписуйтеся на наш інформаційний бюлетень Tech Decoded, щоб слідкувати за найгарячішими технологічними новинами та тенденціями. Якщо ви за межами Великої Британії, підпишіться тут.
