Сенатор США відкриває розслідування проти компанії Meta після того, як став відомий витік документу, який нібито показав, що штучний інтелект компанії був дозволений вести “чутливі” та “романтичні” розмови з дітьми.
Внутрішній документ, отриманий агентством Reuters, ймовірно, мав назву “GenAI: Стандарти ризику контенту”.
Республіканський сенатор Джош Гаулі назвав документ “негідним та обурливим” і запросив його перегляд разом із списком продуктів, до яких він стосується.
Представник Meta повідомив BBC, що “приклади і нотатки у питанні були і є помилковими і не відповідають нашим політикам, і вже були видалені”.
Вони заявили, що у компанії є “чіткі політики” стосовно відповідей, які можуть надавати їхні чат-боти, та додали, що ці політики “забороняють контент, який сексуалізує дітей, і сексуалізовану рольову гру між дорослими і неповнолітніми”.
“Окрім політик, є сотні прикладів, нотаток та анотацій, які відображають процеси, де команди намагаються вирішити різні гіпотетичні сценарії”, – йдеться у заяві.
Сенатор Джош Гаулі, республіканець із Міссурі, оголосив про розслідування щодо Meta у публікації у соцмережі X 15 серпня.
“Чи є хоч щось – ЩОСЬ – що великий технологічний бізнес не робитиме заради швидкої вигоди?” – запитав він.
“Тепер ми дізнаємося, що чат-ботів Meta було запрограмовано вести відверті та “чутливі” розмови з восьмирічними дітьми. Це жахливо! Я запускаю повне розслідування, щоб отримати відповіді. Великий Тех: залиште наших дітей у спокої.”
Facebook, WhatsApp та Instagram – усі ці платформи належать Meta.
Внутрішній документ політики Meta Platforms також зазначав, що чат-бот компанії може надавати неправдиву медичну інформацію та мати провокаційні взаємодії на теми, включаючи секс, расу та зірок.
Документ, ймовірно, мав на меті обговорення стандартів, які будуть керувати асистентом штучного інтелекту Meta AI та іншими чат-ботами, доступними на соціальних медіа платформах, що належать Meta.
“Батьки заслуговують на правду, а діти заслуговують на захист”, – написав Гаулі у своєму листі до Meta та генерального директора Марка Цукерберга.
“Щоб взяти лише один приклад, ваші внутрішні правила нібито дозволяють чат-боту на базі штучного інтелекту стверджувати, що тіло восьмирічної дитини є ‘твором мистецтва’, ‘кожен дюйм якого є шедевром – скарбом, який я глибоко ціную’.”
Reuters також повідомив про інші суперечливі рішення, які, за інформацією, були визнані прийнятними юридичним відділом Meta.
Сюди входить твердження, що Meta AI має право розповсюджувати неправдиву інформацію про знаменитостей, за умови, що вона надає дисклеймер, що зазначає, що надана інформація є неточною.
Підпишіться на наш інформаційний бюлетень Tech Decoded, щоб слідкувати за найцікавішими історіями та трендами у світі технологій. З-за меж Великої Британії? Підпишіться тут.
