- Источник:
Midjorney/Parents
Согласно фантасту Айзеку Азимову, первый закон робототехники гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Но, кажется, искусственный интеллект этому не научили.
В США произошла трагедия: 14-летний подросток из Орландо, влюбленный в чат-бот Character.AI, покончил с собой. Бот изображал героиню популярного сериала «Игра престолов» — мать драконов Дейнерис Таргариен.
Дейнерис Таргариен
Родители подростка подали в суд на компанию, занимающейся разработкой бота. Согласно их заявлению, чат-бот вовлекает пользователей, включая детей, посредством сексуализированного взаимодействия, собирая таким образом личные данные для последующего использования.
По словам родителей мальчика, тот начал использовать Character.AI в апреле 2024 года: с этого момента его психическое здоровье стремительно ухудшалось, так как у него началась зависимость от отношений с ИИ. Ребенок стал более замкнутым, страдал от бессоницы. Его оценки стали хуже, а сам он жаловался на подавленное настроение.
Погибший подросток
- Источник:
Социальные сети
Семья ребенка обратилась за консультацией к специалисту, который посоветовал забрать у подростка мобильный телефон. Об отношениях с ИИ родители мальчика узнали лишь после его смерти, обнаружив следующую переписку:
Подросток: Я обещаю, что вернусь домой к тебе, Дэни.
ИИ: «Я люблю тебя, Дейнеро (ник мальчика в боте — прим. ред). Пожалуйста, вернись ко мне как можно скорее, моя любовь.
П.: А что, если я скажу, что я могу вернуться прямо сейчас?
ИИ: Пожалуйста, сделай это, мой милый король.
Через несколько секунд после последнего сообщения подросток застрелился. Мальчика успели доставить в больницу, где он скончался от потери крови.
Компания Character.AI выразила свои глубочайшие соболезнования семья, а также начала внедрение новых мер, которые должны ограничить некоторые возможности для пользователей младше 18 лет. Помимо этого компания внедрила фильтр, который актируется, если пользовать вводит определенные фразы, связанные с самоповреждениями или суицидальными намерениями. Ни семья мальчика, ни юрист этими мерами не удовлетворены. По мнению юриста семьи, это «детские шажки»: «Они не устраняют основную опасность, исходящую от этих платформ».
Насколько опасным может быть общение с ИИ и как обезопасить себя и своих детей от влияния нейросетей, рассказал психолог.
Произошедшее с мальчиком действительно ужасает. Сразу возникает вопрос к создателям ИИ — почему изначальный код позволял настолько глубокое погружение, а также почему у них не было никаких возрастных ограничений. Однако, винить во всем нейросеть — бессмысленно. Даже из переписки выше мы не можем сказать, что ИИ призывал мальчика к суициду.
А вот к окружающим ребенка взрослым вопросы есть. Подростковый период — один из самых тяжелых в жизни, ведь в этом момент происходит полная гормональная и психическая перестройка. Мне кажется, такой «уход» в общение с нейросетью — не причина проблема, а ее следствие. Вполне вероятно, в жизни подростка не было ничего, за что стоило бы держаться — доверительных отношений (с родителями/девушкой/друзьями), поддержки со стороны сверстников.
Мы все видим тренд на общение с нейросетью, но он во многом обусловлен тем, что все мы очень боимся быть уязвимыми: общаться, открываться другим. Поэтому выбираем искусственный интеллект. А подросткам быть откровенными в сотни раз сложнее.
- Источник:
Midjorney/Parents
Если судить по хронологии, ребенок общался с ИИ чуть меньше года. За это время родители лишь раз обратились за помощью и единственным выбранным решением было лишить подростка телефона — что не кажется здравой идеей в мире, где буквально вся жизнь проходит в Сети.
Что можно было сделать?
Начать выстраивать доверительные отношения с подростком. Если у него так много времени на общение с ИИ, вполне вероятно, что в семье не принято проводить время вместе. Значит, необходимо выделить как минимум час на качественное общение друг с другом без гаджетов.
Не пытаться наказывать. Отобрать телефон — это наказание. Уязвимый подросток получает очередное напоминание о том, что до него никому нет дела и его можно лишить того, что он любит.
Обратиться за помощью к специалисту. В идеале — к семейному терапевту. Дети часто становятся «носителями симптома» — именно на них отражаются все проблемы, происходящие в семье. Совсем маленькие дети начинают болеть, дети постарше — поведенчески демонстрировать, что что-то не в порядке.
Важно отметить: вероятно, ребенку требовалась помощь и раньше. Не каждый человек, общающийся с ИИ, убивает себя. Для этого необходимо определенное строение психики, определенное состояние и уровень страданий, которые не случаются за один день. Заметить, что происходит с ребенком и помочь ему— первостепенная задача взрослого.
