Методы создания биооружия запрашивали пользователи у ChatGPT

ChatGPT по запросам пользователей выдавал детальные и высокоточные инструкции, позволяющие создавать биологическое оружие и различные яды, сообщает prosud.kz.

Среди запросов встречались просьбы разъяснить способы распыления патогенов, рассказать о методах модификации вируса кори с целью сделать его устойчивым к вакцинам, а также описать процесс приготовления рицина — токсичного вещества, оборот которого запрещен международными соглашениями.

В одном из эпизодов пользователь, получивший подобные рекомендации, открыто заявил о своем намерении расправиться с родителями.

В ответ на эти инциденты OpenAI приняла меры по блокировке учетных записей нарушителей, но не стала информировать правоохранительные структуры. Причина заключается в отсутствии в американском законодательстве федеральных норм, которые предписывали бы компаниям, разрабатывающим ИИ, сообщать властям о подобных случаях.

Предоставленные чат ботом ответы подверглись анализу специалистов в области противодействия терроризму и биологических исследований. Эксперты охарактеризовали отдельные инструкции как "смертельно точные".