По информации издания The New York Times, женщина регулярно принимала противосудорожные препараты. Как рассказала ее семья, Боуэн обратилась за советом к ChatGPT и доверилась рекомендациям искусственного интеллекта. ChatGPT составил для Боуэн индивидуальный график постепенного отказа от лекарств и посоветовала не сообщать об этих изменениях медикам.
В ходе переписки женщина неоднократно жаловалась чат-боту на ухудшение самочувствия. Так, в диалоге с ИИ было зафиксировано 158 сообщений по поводу тревоги из-за ухудшения самочувствия. В ответ система продолжала заверять ее, что все идет хорошо.
Спустя некоторое время у Боуэн Ван произошел очередной эпилептический приступ, в результате которого она умерла. Близкие женщины считают, что компания OpenAI несет ответственность за произошедшее, поскольку ее продукт предоставлял медицинские советы без соответствующих предупреждений о необходимости консультации с доктором.