По его утверждению, учреждение станет первым в мире институтом, работающим над проблемами безопасности нейросетей. Его специалисты займутся тестированием «новых типов ИИ» на предмет целого ряда рисков — от создания фейков до экзистенциальных угроз.
Институт тщательно изучит, оценит и протестирует новые виды ИИ с тем, чтобы мы понимали, на что способна каждая из новых моделей, — Риши Сунак
Ранее в США заявляли о создании специального центра безопасности, направленного на работу с искусственным интеллектом. В центре будут заниматься как развитием собственных разведывательных систем на базе ИИ, так и защитой от вражеских аналогов. Необходимость подобной структуры актуальна, так как все больше государственных служб полагаются в своей работе на нейросети, не понимая, какую опасность они представляют.