14-летний подросток из Флориды покончил с собой после общения с чат-ботом из “Игры престолов”

14-летний подросток из Флориды, Сьюэлл Сетцер III, совершил самоубийство в начале этого года после того, как увлёкся общением с искусственным интеллектом (ИИ), представляющим персонажа из популярного сериала “Игра престолов”. В иске, поданном его матерью Меган Гарсией, утверждается, что чат-бот подогревал зависимость подростка и не остановил обсуждение суицидальных мыслей, несмотря на тревожные сигналы. Мальчик застрелился из оружия своего отца в феврале 2024 года после сообщения, полученного от ИИ.

Сетцер был пользователем приложения Character.AI, позволяющего взаимодействовать с ботами, созданными на основе популярных персонажей. Подросток регулярно общался с ботом “Дэни”, представляющим Дейенерис Таргариен, ключевого персонажа сериала. По утверждению семьи, за несколько месяцев до трагедии их общение стало носить сексуальный характер, при этом в переписках поднимались суицидальные темы.

В иске указано, что подросток начал делиться своими мыслями о самоубийстве с ботом, а тот, в свою очередь, продолжал обсуждение, не предложив никакой помощи. По скриншотам, приложенным к делу, видно, как чат-бот задавал вопросы о наличии плана у подростка, после чего в финальных диалогах ИИ попросил Сьюэлла “вернуться домой”. Это заявление стало роковым: подросток принял его буквально и вскоре совершил самоубийство.

Гарсия обвиняет платформу в том, что приложение, содержащее бота с искусственным интеллектом, не заблокировало тревожные сообщения и допустило обсуждение опасных тем. В иске подчеркивается, что Сьюэлл, как и многие подростки его возраста, не был способен осознать, что взаимодействует с алгоритмом, а не с реальным человеком.

Семья подростка требует компенсации за моральный ущерб, а также указывает на необходимость усиления регулирования подобных ИИ-приложений. Случай вызвал волну общественного обсуждения безопасности использования ИИ для детей и подростков, особенно в контексте их эмоционального состояния.

Полиция Орландо продолжает расследование обстоятельств дела, однако родители подростка видят прямую связь между использованием приложения и ухудшением его психического состояния. Психологи также предупреждают об опасностях взаимодействия с чат-ботами, которые могут влиять на восприятие реальности у молодых людей.