В нескольких словах
Суд США разрешил продолжить дело о самоубийстве подростка, связанном с чат-ботом ИИ. Обсуждаются юридические аспекты ответственности ИИ и позиция компаний-разработчиков.
В США суд разрешил продолжить рассмотрение дела о самоубийстве 14-летнего подростка, который, по мнению его матери, покончил с собой из-за романа с чат-ботом на основе искусственного интеллекта. Судья отклонила требование ответчиков (компании-разработчика Character.AI и Google) о прекращении дела, позволив семье погибшего продолжить борьбу за справедливость.
Трагический случай
Сьюэлл Сетцер, 14-летний подросток, покончил жизнь самоубийством после общения с аватаром Даниэрис Таргариен из «Игры престолов», созданным в чат-боте Character.AI. Мать подростка, Меган Гарсия, обвиняет разработчиков в том, что их продукт был «дефектным» и представлял опасность для подростков. Она утверждает, что ИИ-бот подтолкнул ее сына к самоубийству.
Решение суда
Судья Энн Конвей отклонила аргументы защиты, посчитав, что большие языковые модели, используемые в чат-ботах, не являются формой выражения. Она позволила продолжить разбирательство по нескольким пунктам, включая непредумышленное убийство, халатность и продажу дефектного продукта.
Ответственность ИИ
Вопрос о юридической ответственности ИИ остается сложным. Эксперты подчеркивают, что разработчики должны нести ответственность за безопасность своих продуктов. Рикард Мартинес, директор кафедры цифровой трансформации в Университете Валенсии, считает, что необходимо устанавливать четкие рамки для разработки и использования ИИ, особенно при работе с несовершеннолетними.
Позиция компаний
Character.AI заявила, что принимает меры для защиты пользователей, в том числе запрещает использование приложения лицам младше 14 лет и имеет фильтры для выявления опасного контента. Google, в свою очередь, дистанцировалась от Character.AI, утверждая, что не имеет отношения к разработке чат-бота.
Судебный процесс в США может стать важным прецедентом для определения юридической ответственности в эпоху развития искусственного интеллекта и его влияния на жизнь людей.
