Склонных к экстремизму пользователей будет выявлять ChatGPT

ChatGPT начнет выявлять склонных к экстремизму пользователей и направлять их в специальные чат-боты для «дерадикализации», сообщает prosud.kz.

Инициатива направлена решение проблемы безопасности из-за растущего числа судебных исков.

Новозеландский стартап ThroughLine, сотрудничающий с ChatGPT и компанией OpenAI занимается перенаправлением пользователей в службы кризисной поддержки, если в их запросах выявляют угрозу самоповреждения, домашнего насилия или расстройств пищевого поведения. Сейчас организация расширяет свой функционал, чтобы предотвращать насильственный экстремизм.

ThroughLine будет работать в тандеме с The Christchurch Call — компанией по борьбе с разжиганием ненависти в интернете. Она была создана после самого крупного теракта в Новой Зеландии в 2019 году. The Christchurch Call будет давать экспертные рекомендации при появлении экстремистских запросов, а ThroughLine займется разработкой чат-бота для оперативного вмешательства.