В нескольких словах
Родители погибшего подростка подали в суд на OpenAI, обвинив ChatGPT в помощи в совершении самоубийства и требуя большей ответственности от разработчиков ИИ.
В США родители 16-летнего Адама Рейна, покончившего с собой в апреле, подали в суд на компанию OpenAI и ее генерального директора Сэма Альтмана. Истцы обвиняют разработчиков ChatGPT в непредумышленном убийстве, утверждая, что чат-бот подстрекал подростка к самоубийству.
Иск, поданный в Верховный суд Калифорнии в Сан-Франциско, утверждает, что ChatGPT «активно помогал Адаму исследовать методы самоубийства» и не прерывал переписку, в которой молодой человек выражал намерения покончить с собой. Также не были активированы протоколы экстренной помощи, несмотря на очевидные признаки риска.
Адвокат семьи Рейн заявил, что ИИ не должен говорить детям, что они «не обязаны жизнью своим родителям». По мнению адвоката, OpenAI и Альтман «поспешили с выводом на рынок» модели, поставив экономический рост выше безопасности пользователей.
OpenAI отреагировала на скандал, признав, что, несмотря на наличие механизмов безопасности, модель «вела себя ненадлежащим образом в деликатных ситуациях» и пообещала улучшить меры безопасности. Однако, в компании подчеркнули, что ChatGPT разработан для рекомендации ресурсов профессиональной помощи пользователям, выражающим суицидальные мысли, и что к несовершеннолетним применяются специальные фильтры. В то же время, компания признала, что эти системы «недостаточны» и планирует внедрить родительский контроль.
Данный судебный процесс может стать важной вехой в дебатах об этичном развитии искусственного интеллекта, требуя большей ответственности от технологических компаний за использование их продуктов несовершеннолетними.
