Автором инициативы выступил Европарламент, который отреагировал на серию скандалов с нейросетью Илона Маска Grok.
Отмечается, что с помощью ресурса пользователи могли превращать реальные снимки людей в изображения интимного характера.
Ранее Еврокомиссия обвинила социальную сеть X в генерации запрещенного контента с помощью нейросети Grok. 14 января xAI заявила, что Grok будет блокировать возможность пользователей создавать изображения реальных людей в бикини, нижнем белье и подобной одежде в странах, где это незаконно. При этом Илон Маск отвергает обвинения в адрес компании, заявляя, что ответственность за создание таких изображений несут только пользователи, ведь нейросеть действует по их запросам.
Согласно закону ЕС об искусственном интеллекте, с февраля 2025 года запрещено использовать ИИ, если это представляет явную угрозу безопасности людей, их основным правам или средствам к существованию. Теперь в этот перечень могут включить генерацию откровенных изображений людей без их ведома.
После серии возмущений, компания xAI, занимающаяся искусственным интеллектом, заявила о новых ограничениях для всех пользователей своего чат-бота Grok. В частности ограничено редактирование изображений, после скандала с генерацией фейковых фотографий интимного характера.
Ограничения касаются также платных подписчиков, предусматривают запрет на редактирование изображений реальных людей в откровенной одежде.