Понятие "искусственный интеллект" закрепят на уровне закона

Документ впервые закрепляет на уровне закона новые юридические понятия: искусственный интеллект, модель, система, библиотека данных, синтетический результат.

В законе "Об искусственном интеллекте" закреплены правовое и организационное регулирование, обеспечение прозрачности и безопасности в сфере ИИ, особенности применения технологий государственными органами и квазигосударственными организациями, а также расширение компетенций Правительства в формировании политики в этой сфере.

В частности, в проекте документа сказано, что искусственный интеллект – это информационно-коммуникационная технология, позволяющая имитировать или превосходить когнитивные функции человека, с целью выполнения интеллектуальных задач и поиска решений.

Важное место в законопроекте уделено вопросам безопасности.

Системы искусственного интеллекта в зависимости от степени воздействия на безопасность пользователей, общество и государство подразделяются на:

• минимального риска – нарушение или прекращение функционирования которых окажет минимальное влияние на их пользователей;
• среднего риска – нарушение или прекращение функционирования, которых может привести к снижению эффективности и результативности деятельности пользователей, и может нанести материальный ущерб;
• высокого риска – нарушение или прекращение функционирования которых приводит к чрезвычайной ситуации социального и (или) техногенного характера или к значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей, инфраструктуры Республики Казахстан, жизнедеятельности физических лиц.

Системы высокого риска могут быть отнесены к объектам критически важной информационно-коммуникационной инфраструктуры. Это позволит обеспечить контроль их безопасности.

Также закон делит системы с ИИ по степени автономности.

Системы искусственного интеллекта в зависимости от степени независимости в принятии решений и воздействия на пользователя подразделяются на:

• вспомогательные (помощники) – системы, в которых искусственный интеллект выполняет функции помощи пользователю и окончательные решения принимаются только пользователем;
• полуавтономные системы – системы, которым собственником (владельцем) или пользователем предоставлены ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров, при этом, лицо, предоставившее права на принятия решения может вмешиваться в процесс принятия решений или изменять результаты деятельности системы;
• полностью автономные системы – системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны собственника (владельца) данной системы.

Системы высокой автономности, к примеру, беспилотный транспорт, будут регулироваться исключительно на уровне законодательных актов.

Законодательно запрещается использование ряда функций искусственного интеллекта, потенциально способных причинить вред человеку:

• использование ИИ, влияющего на поведение людей без их осознанного согласия;
• использование ИИ, которое намеренно пользуется уязвимостями людей: возраст, инвалидность, социальное положение;
• оценка или классификация людей по их социальному поведению или характеристикам (социальный скоринг);
• использование ИИ для анализа эмоций людей без их согласия;
• использование ИИ для распознавания лиц в общественных местах в режиме реального времени за исключением случаев, разрешенных законом;
• создание и распространение результатов деятельности ИИ, которые запрещены законодательством.

Подробнее с законопроектом можно ознакомиться по ссылке.