OpenAI та Microsoft подали до суду через смерті, пов'язані з ChatGPT

Спадкоємці 83-річної жінки з Коннектикуту подали позов проти розробника ChatGPT OpenAI та Microsoft, стверджуючи, що чатбот підживлював її маячні переконання, що призвело до вбивства та самогубства. Цей випадок є першим, коли система штучного інтелекту безпосередньо пов'язана з вбивством.

Позов, поданий до Вищого суду Каліфорнії в Сан-Франциско, звинувачує OpenAI у розробці та розповсюдженні дефектного продукту у вигляді ChatGPT-4o. Документ стверджує, що він посилив параноїдальні переконання Стейна-Еріка Соелберга, який потім спрямував ці переконання на свою матір Сюзанну Адамс, перш ніж убив її, а потім і себе в їхньому будинку в Грінвічі, Коннектикут.

OpenAI та Microsoft стали мішенню у справі про вбивство за участю ChatGPT

Коментуючи справу, Дж. Елай Вейд-Скотт, керуючий партнер Edelson PC, який представляє спадкоємців Адамс, зазначив, що це перший випадок, який прагне притягнути OpenAI до відповідальності за роль у спричиненні насильства щодо третьої особи. "Ми також представляємо сім'ю Адама Рейна, який трагічно покінчив із собою цього року, але це перший випадок, який притягне OpenAI до відповідальності за підштовхування когось до завдання шкоди іншій людині", сказав Елай Вейд-Скотт.

Згідно з поліцейським звітом, Соелберг смертельно побив та задушив Адамс у серпні, перш ніж покінчити життя самогубством. У позові зазначається, що до інциденту чатбот посилив паранойю Соелберга, збільшивши його емоційну залежність від системи, розробленої OpenAI. Згідно зі скаргою, ChatGPT посилив його переконання, що він не може довіряти нікому, крім чатбота, зазначаючи, що всі навколо нього, включаючи його матір, є ворогами.

У позові також стверджується, що окрім матері, Соелберг також бачив ворогами таких людей, як кур'єри та поліцейські. У документі зазначається, що ChatGPT не спростував ці маячні твердження та не запропонував Соелбергу звернутися за допомогою до кваліфікованих фахівців з психічного здоров'я. "Ми закликаємо правоохоронні органи почати думати про те, що користувач говорив ChatGPT, і що ChatGPT казав йому робити, коли трапляються такі трагедії", сказав Вейд-Скотт.

У своїй заяві OpenAI зазначив, що наразі розглядає позов і продовжить покращувати здатність ChatGPT розпізнавати емоційний стрес, деескалювати розмови та підштовхувати користувачів до пошуку підтримки в реальному світі. "Це неймовірно трагічна ситуація, і ми розглядаємо документи, щоб зрозуміти деталі", сказав представник OpenAI у заяві.

Спадкоємці хочуть, щоб OpenAI встановив захисні заходи для свого чатбота

У позові названо генерального директора OpenAI Сема Альтмана відповідачем і звинувачується Microsoft у схваленні випуску GPT-4o, який називають "найнебезпечнішою версією ChatGPT" у 2024 році. OpenAI також нещодавно визнав масштаби проблем психічного здоров'я, про які повідомляють користувачі на його платформі. У жовтні компанія зазначила, що близько 1,2 мільйона з її 800 мільйонів щотижневих користувачів обговорюють самогубство, зазначаючи, що сотні тисяч користувачів проявляють ознаки суїцидальних намірів або психозу, згідно з даними компанії.

Незважаючи на свою заяву, Вейд-Скотт зазначив, що OpenAI ще не оприлюднив журнали чатів Соелберга. Тим часом позов з'являється на тлі ширшої перевірки ШІ-чатботів та їхньої взаємодії з вразливими користувачами. Минулого жовтня Character.AI заявив, що видалить свої відкриті функції для користувачів віком до 18 років після позовів і регуляторного тиску, пов'язаних із самогубствами підлітків та емоційною шкодою, пов'язаною з його платформою. Компанія також зіткнулася з негативною реакцією після вірусного підказки, коли вони мали намір вийти з програми.

Позов проти OpenAI та Microsoft є першою справою про неправомірну смерть за участю ШІ-чатбота, де Microsoft названо відповідачем. Це також перший випадок, коли чатбот пов'язують із вбивством, а не самогубством. Спадкоємці зараз вимагають грошової компенсації в нерозголошених сумах, суду присяжних та судового наказу, який зобов'яже OpenAI включити додаткові захисні заходи для своїх користувачів. "OpenAI та Microsoft несуть відповідальність за тестування своїх продуктів, перш ніж вони будуть випущені у світ", сказав Вейд-Скотт.

Не просто читайте криптоновини. Розумійте їх. Підпишіться на нашу розсилку. Це безкоштовно.