Сдавать идеологический экзамен перед релизом обязали нейросети в Китае

Власти Китая вводят новые жесткие правила для генеративного искусственного интеллекта (ИИ), сообщает prosud.kz.

По новым правилам перед публичным релизом нейросети обязаны пройти идеологическую проверку и ответить примерно на 2 тыс. специальных вопросов. Без этого модель не получит разрешение на работу.

Регуляторы требуют, чтобы ИИ отказывался как минимум от 95% запросов на "чувствительные" темы.

В их числе вопросы прав человека, критика партийной власти и любые сюжеты, противоречащие официальной линии. Перечень таких тем регулярно обновляется и обязателен для всех разработчиков.

Контроль касается и обучения моделей. Использовать разрешено только заранее отфильтрованные датасеты: эксперты вручную проверяют тысячи примеров контента и не менее 96% материалов должны быть признаны "безопасными".

Всего выделено 31 категория риска, самая серьезная — информация, способная подорвать государственный строй.