22 страны призывали к сохранению контроля над ИИ со стороны человека

22 страны приняли заявление, призывающее к тому, чтобы искусственный интеллект (ИИ) всегда находился «под руководством, наблюдением и контролем человека», и предлагающее создание глобального механизма надзора за ИИ, сообщает prosud.kz.

В заявлении, принятом в кулуарах Недели высокого уровня Генеральной Ассамблеи ООН в Нью-Йорке, признается "потенциал ИИ в улучшении жизни, продвижении науки и укреплении экономики ", но предупреждается, что быстрое развитие самых передовых моделей ИИ создает "серьезные риски для безопасности, если ими не управлять должным образом".

Эта инициатива была запущена в преддверии встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина в Вашингтоне 24 сентября. США и Китай, две ведущие страны в области развития искусственного интеллекта, не участвовали в новой декларации. Однако президент Финляндии Александр Стубб, один из главных организаторов инициативы, выразил надежду, что она создаст "импульс" для привлечения большего числа участников.

Я думаю, что наличие определенных гарантий отвечало бы интересам как Китая, так и Соединенных Штатов. И наш посыл здесь таков: ИИ нуждается в вмешательстве человека, а это значит, что контроль должен осуществляться людьми.Александр Стубб

В связи с недавней кибератакой, совершенной автономными агентами искусственного интеллекта на платформу Hugging Face, в заявлении содержится призыв "устранить эти риски", обязав компании, занимающиеся разработкой ИИ, создавать прозрачные процессы обеспечения безопасности, включая обязательное тестирование перед развертыванием и независимые оценки, с привлечением квалифицированных экспертов для оценки рисков.