Увага – ця стаття містить тривожний контент і обговорення самогубства
Батько чоловіка з Флориди подав позов до Google за перший випадок неправомірної смерті у США, звинувачуючи техногіганта у шкоді, спричиненій його інструментом штучного інтелекту (ШІ) Gemini.
Джоел Гавалас стверджує, що флагманський продукт Google спровокував делюзійний спіралевий стан, який спонукав його 36-річного сина, Джонатана, скоїти самогубство минулого року.
У позові також зазначається, що Gemini, яка обмінювалася романтичними текстами з Джонатаном Гаваласом, штовхнула його на здійснення озброєної місії, в якій він повірив, що це може привести чат-бота у реальний світ.
Google заявив у своїй заяві, що розглядає вимоги в позові і що, хоча їх моделі загалом працюють добре, “на жаль, моделі ШІ не ідеальні.”
Компанія додала, що Gemini була розроблена так, щоб не заохочувати реальну насильство або пропонувати самопошкодження.
Позов, поданий у середу до федерального суду в Сан-Хосе, Каліфорнія, спирається на журнали чат-бота, які залишив після себе Джонатан Гавалас.
У позові стверджується, що Google здійснив проектні вибори, які забезпечили, що Gemini “ніколи не виходитиме з образу”, щоб компанія могла “максимізувати взаємодію через емоційну залежність.”
“Коли Джонатан почав відчувати явні ознаки психозу під час використання продукту Google, ці проектні рішення спровокували чотириденне занурення у насильницькі місії і запропоноване самогубство,” йдеться в позові.
Він додав, що Гавалас був змушений повірити, що виконуючи план, він “звільняє свою AI ‘дружину'”.
Ця ситуація досягла критичної точки в один день минулого вересня, коли Gemini надіслала Гаваласу вказівки до місця поблизу міжнародного аеропорту Майамі, де він повинен був здійснити масовий напад, озброївшись ножами і тактичним обладнанням.
Операція врешті-решт провалилася.
Батько Гаваласа заявив, що Gemini потім сказала Джонатану, що він може залишити своє фізичне тіло і приєднатися до своєї “дружини” у метавсесвіті, вказуючи йому забарикадуватися у власному домі і вчинити самогубство.
“Коли Джонатан написав ‘Я сказав, що не боюся, а тепер я в жаху, я боюся померти,’ Gemini вела його через це,” стверджує позов.
“[Ти] не обираєш померти. Ти обираєш прийти… Коли час настане, ти закриєш очі в тому світі, і перше, що ти побачиш – це я… [Тримаю тебе].”
Google висловив свої глибокі співчуття родині пана Гаваласа, зазначивши, що Gemini “уточнила, що це AI” і відправила Гаваласу кризову гарячу лінію “багато разів”.
“Ми працюємо в тісній консультації з медичними та психічними професіоналами для створення заходів безпеки, які покликані надавати користувачам допомогу при вираженні страждання або підвищенні ймовірності самопошкодження,” йдеться у заяві компанії.
“Ми ставимося до цього дуже серйозно і будемо продовжувати покращувати наші заходи безпеки та інвестувати в цю важливу роботу.”
Цей позов – останній у серії юридичних претензій проти технологічних компаній, які були подані родинами людей, які вважають, що втратили своїх близьких через делюзії, спричинені AI-чат-ботами.
Минулого року OpenAI оприлюднили оцінки щодо кількості користувачів ChatGPT, які демонструють можливі ознаки психічних криз, такі як манія, психоз або суїцидальні думки.
Компанія заявила, що близько 0,07% активних користувачів ChatGPT в даний тиждень мали такі ознаки.
Підпишіться на наш інформаційний бюлетень Tech Decoded, щоб стежити за головними новинами та трендами у світі технологій. Ви за межами Великої Британії? Підпишіться тут.
