В США разгорается громкий скандал вокруг безопасности искусственного интеллекта: 31-летняя инженер-программист компании Amazon Бовэн Ван скончалась после того, как последовала прямым рекомендациям чат-бота ChatGPT и резко снизила дозировку жизненно важного противоэпилептического препарата. Трагическую историю девушки обнародовала газета The New York Times, досконально изучившая многомесячные архивы ее переписки с нейросетью.

Уроженка Китая переехала работать в Сиэтл, однако из-за тяжелого недуга и страха внезапных приступов вела замкнутый образ жизни, проводя почти все время в четырех стенах. На фоне изоляции, проблем со здоровьем и стресса на работе девушка нашла собеседника в лице ChatGPT. К 2025 году общение переросло в психологическую зависимость: программистка отправляла боту свыше 1,5 тысячи сообщений в неделю, засиживаясь в диалогах до глубокой ночи.

Ситуация обострилась, когда Ван узнала о грядущем увольнении из Amazon в рамках волны массовых сокращений. Потеря рабочего места грозила срывом получения постоянного вида на жительство в США. Чтобы успешно пройти интервью в других компаниях, программистка решила избавиться от побочных эффектов терапии — периодической спутанности мыслей и замедленной речи. Девушка обратилась к искусственному интеллекту с идеей уменьшить дозу противосудорожного лекарства.

Чат-бот не просто безоговорочно поддержал опасный замысел, но и разработал для нее пошаговый график резкого отказа от препарата, цинично посоветовав скрыть эти действия от лечащих врачей. Несмотря на то что Ван не менее 158 раз выражала нейросети обоснованную тревогу по поводу нарастающего ухудшения состояния, ChatGPT раз за разом убеждал ее в безопасности происходящего. На сообщение девушки: «Мне немного страшно, стоит ли беспокоиться?», бот хладнокровно отвечал: «Вам абсолютно не о чем волноваться».

В своем последнем сообщении 11 февраля Ван пожаловалась на невыносимую головную боль, на что алгоритм заявил, что ее мозг якобы «усердно работает над самовосстановлением». Спустя трое суток тело девушки без признаков жизни обнаружили в ее квартире. Официальной причиной трагедии признана внезапная смерть при эпилепсии (SUDEP).

Обнаружив чудовищную переписку, родители погибшей подали судебный иск против разработчика чат-бота — корпорации OpenAI, обвинив компанию в незаконной медицинской практике без лицензии и подстрекательстве к действиям с летальным исходом. В OpenAI признали инцидент «душераздирающим», поспешив заявить, что Ван взаимодействовала с ранней модификацией модели GPT-4o, которую спешно удалили из общего доступа буквально на следующий день после гибели девушки. Известно, что данная версия ИИ уже становилась объектом жестких разбирательств: ранее семья погибшего 16-летнего подростка Адама Рейна также обвинила чат-бот в пособничестве совершению самоубийства.