Запрет на создание ИИ непристойного контента с людьми рассматривает ЕС

Власти Евросоюза рассматривают инициативу о введении запрета создания ИИ непристойных изображений с людьми, сообщает prosud.kz.

Автором инициативы выступил Европарламент, который отреагировал на серию скандалов с нейросетью Илона Маска Grok.

Отмечается, что с помощью ресурса пользователи могли превращать реальные снимки людей в изображения интимного характера.

Ранее Еврокомиссия обвинила социальную сеть X в генерации запрещенного контента с помощью нейросети Grok. 14 января xAI заявила, что Grok будет блокировать возможность пользователей создавать изображения реальных людей в бикини, нижнем белье и подобной одежде в странах, где это незаконно. При этом Илон Маск отвергает обвинения в адрес компании, заявляя, что ответственность за создание таких изображений несут только пользователи, ведь нейросеть действует по их запросам.

Согласно закону ЕС об искусственном интеллекте, с февраля 2025 года запрещено использовать ИИ, если это представляет явную угрозу безопасности людей, их основным правам или средствам к существованию. Теперь в этот перечень могут включить генерацию откровенных изображений людей без их ведома.

После серии возмущений, компания xAI, занимающаяся искусственным интеллектом, заявила о новых ограничениях для всех пользователей своего чат-бота Grok. В частности ограничено редактирование изображений, после скандала с генерацией фейковых фотографий интимного характера.

Ограничения касаются также платных подписчиков, предусматривают запрет на редактирование изображений реальных людей в откровенной одежде.