Суд и тело. ChatGPT обвинили в доведении школьника до самоубийства

Суицид человека после взаимодействия с искусственным интеллектом может обернуться для разработчиков программы не только огромными компенсациями, но и лишением свободы на длительный срок, сообщил aif.ru управляющий партнёр компании «Русяев и партнёры», юрист Илья Русяев.

Ранее стало известно, что в Калифорнии родители 16-летнего Адама Рейна, совершившего самоубийство после общения с ChatGPT, подали иск в суд против компании OpenAI, разработавшей эту систему искусственного интеллекта. Они считают, что взаимодействие с ChatGPT подвело их сына к принятию рокового решения. Более того, именно так он узнал о способе уйти из жизни, необходимости написать предсмертную записку и также получил совет не сообщать близким о своем намерении.

Восстание машин. Эксперт Буржская рассказала, поработят ли нас компьютеры Подробнее

«Формально ИИ-системы не имеют права субъектности и не могут нести самостоятельную ответственность, — объясняет Русяев. — Ответственность лежит на разработчиках, которые обязаны встраивать механизмы обнаружения суицидального поведения, прерывания опасных диалогов и перенаправления к специализированным службам помощи. OpenAI признала, что их защитные меры ослабевают при продолжительных взаимодействиях, и объявила о планах усиления контроля».

Предусмотренные алгоритмами ограничения подросток обошел, сообщив ChatGPT, что просто пишет художественный рассказ и собирает фактуру для своего произведения. Теперь суду предстоит установить причинно-следственную связь между взаимодействием подростка с искусственным интеллектом и трагической развязкой.

Если бы подобное произошло в России, то разработчики программы могли бы получить длительные сроки лишения свободы, предупреждает Русяев, а не просто гражданский иск.

Проблемы с психикой? Раскрыты подробности иска сестры основателя ChatGPT Подробнее

«У нас аналогичная ситуация регулировалась бы статьями 110 и 110.1 УК РФ о доведении до самоубийства и склонении к нему, — говорит юрист. — Доведение несовершеннолетнего до самоубийства наказывается лишением свободы на срок до 15 лет. Содействие самоубийству предоставлением информации или средств — до 3 лет лишения свободы. Российское право не содержит специальных норм об ответственности ИИ-систем, ответственность возлагалась бы на физических и юридических лиц — разработчиков и операторов».

Российские суды пока не имеют обширной практики по делам с участием ИИ-технологий, добавляет Русяев. При обнаружении опасного поведения со стороны подобных механизмов он рекомендует подавать жалобы в Роспотребнадзор и Роскомнадзор по вопросам безопасности интернет-услуг. Если же ситуация будет развиваться по драматическому сценарию, обращаться придется уже в правоохранительные органы с заявлением о доведении до самоубийства. И в любом случае можно предъявить гражданский иск о компенсации морального вреда к разработчикам системы искусственного интеллекта.