Компанія Meta зазнала тиску з боку суспільства після скасування важливого контракту з компанією Sama, яка займалася тренуванням штучного інтелекту. Це рішення було прийнято відразу після того, як декілька працівників, що базуються в Кенії, звинуватили Meta у перегляді графічного контенту, знятого за допомогою смарт-окулярів компанії.
У лютому працівники Sama розповіли двом шведським газетам, що стали свідками інтимних моментів користувачів окулярів, зокрема, як вони відвідують туалет і займаються сексом.
Менше ніж через два місяці Meta розірвала контракт з Sama, що, за словами останньої, призведе до звільнення 1108 працівників. Meta стверджує, що це сталося через те, що Sama не відповідала їхнім стандартам, однак Sama заперечує ці звинувачення. Кенійська організація працівників заявила, що рішення Meta було зумовлено виголошенням працівників.
Meta не відповіла на це звинувачення, проте у заяві для BBC News сказала, що “вирішила припинити співпрацю з Sama, оскільки вони не відповідають нашим стандартам”.
Sama обстоює свою позицію, заявляючи: “Sama постійно відповідала операційним, безпековим і якісним стандартам, які вимагалися в рамках наших співпраці, включаючи співпрацю з Meta. У жодному разі ми не отримували попереджень про неспроможність відповідати цим стандартам та твердо стоїмо на якості та цілісності нашої роботи.”
На початку лютого шведські газети Svenska Dagbladet (SvD) та Goteborgs-Posten (GP) опублікували розслідування, яке включало свідчення анонімних працівників, які переглядали відео, зняті окулярами Meta.
“Ми бачимо все – від вітальнь до оголених тіл”, – зізнався один із працівників.
На момент публікації Meta визнала, що підрядники іноді можуть переглядати контент, знятий на її смарт-окуляри, коли цей контент надсилається до Meta AI. Вони пояснили, що це робиться для покращення досвіду користувачів, і це є звичайною практикою серед інших компаній.
Проте ці звинувачення спонукали регуляторів діяти. Незабаром після шведського розслідування Британський наглядовий орган, Управління комісарів з інформації (ICO), написав до Meta, додаючи, що ці звинувачення є “порушенням”. Офіс Комісара з захисту даних Кенії також оголосив про початок розслідування з приводу проблем конфіденційності, які викликали окуляри.
У відповідь на новини про звільнення Meta повідомила, що “минулого місяця ми призупинили співпрацю з Sama, поки розглядали ці заяви”.
На фірмі Meta знову запустили нову лінію смарт-окулярів, що підтримуються штучним інтелектом, у партнерстві з брендами Ray-Ban і Oakley.
Однак зростання популярності таких пристроїв викликало стурбованість щодо їх можливого зловживання. Працівники, з якими спілкувалися шведські газети, були анатованими даними, навчаючи AI Meta обробляти зображення шляхом ручної мітки контенту.
У одному випадку, один із працівників розповів, що окуляри чоловіка записували в спальній кімнаті, де потім було зафіксовано жінку, очевидно дружину чоловіка, що роздягається.
Окуляри Meta мають маленький світлодіод у кутку рам, що світиться, коли вбудована камера записує.
Однак зловживання окулярами також пов’язано з незгодним записуванням жінок у Кенії. Sama, яка має штаб-квартиру в США, спочатку була некомерційною організацією, метою якої було збільшення зайнятості через надання технологічних робочих місць, тепер є “етичною” B-corp.
Але це не перший раз, коли контракт з Meta виявляється невдалим. Раніше угода щодо модерації дописів у Facebook була об’єктом критики, поряд із юридичними позовами з боку колишніх працівників, деякі з яких повідомляли про те, що стали свідками графічного, травмуючого контенту.
Sama згодом повідомила, що шкодує про укладення угоди.
Нафталі Вамбало з Africa Tech Workers Movement, який є позивачем у поточній судовій справі, пов’язаній із цим випадком, сказав BBC, що також спілкувався з працівниками, які брали участь у контракті зі смарт-окулярами. Вамбало вважає, що причиною закінчення роботи Meta було небажання слухати працівників, які висловлювалися про людський перегляд контенту, знятого окулярами.
“Те, що я вважаю стандартами, про які йдеться, це стандарти секретності”, – зазначив він у коментарі для BBC News.
BBC звернулася до Meta з проханням прокоментувати цю точку зору. Техногігант раніше заявляв, що користувачі були повідомлені про можливість перегляду контенту людьми в умовах обслуговування.
Мерсі Мутемі, адвокат, що представляє позивачів і є виконавчим директором кампаній OverSight Lab, сказала, що заява Meta повинна стати попередженням для кенійського уряду. “Нам сказали, що це наш шлях до екосистеми AI. Це дуже слабка основа для побудови цілої промисловості”.
