Что разрешается и что запрещается ИИ в Казахстане: опубликован закон

Законом определено понятие:

• искусственный интеллект (ИИ) – функциональная способность к имитации когнитивных функций, характерных для человека, обеспечивающая результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их.

Целями государственного регулирования общественных отношений в сфере искусственного интеллекта являются обеспечение развития искусственного интеллекта и стимулирование его внедрения в различных областях для улучшения качества жизни человека и повышения эффективности экономики, -говорится в тексте.

Основными задачами государственного регулирования в сфере ИИ являются:

• определение правовой и организационной основы регулирования общественных отношений в сфере ИИ;
• обеспечение прозрачности и безопасности в использовании систем ИИ, а также результатов деятельности систем ИИ;
• создание благоприятных условий для привлечения инвестиций в развитие сферы ИИ;
• государственная поддержка исследований и инноваций в сфере ИИ.

Законом определены базовые принципы регулирования ИИ:

• законность;
• справедливость и равенство;
• прозрачности и объяснимости;
• ответственность и подконтрольность;
• приоритет благополучия человека, свободы воли в принятии им решений;
• защита данных и конфиденциальность;
• безопасность и защищенность.

Собственники и владельцы систем ИИ вправе:

• определять условия и ограничения пользования системами ИИ;
• осуществлять меры по защите своих прав на системы ИИ.

Собственники и владельцы систем ИИ обязаны:

• осуществлять управление рисками систем ИИ;
• принимать меры для обеспечения безопасности и надежности систем ИИ, включая защиту от несанкционированного доступа, сбоев в их работе;
• вести документацию на систему ИИ в зависимости от степени ее воздействия на безопасность, права, свободы и законные интересы физических лиц, общественный порядок в соответствии с перечнем документации на системы ИИ;
• осуществлять поддержку пользователей по вопросам функционирования систем ИИ;
• предоставлять пользователям возможность ознакомиться с пользовательским соглашением системы ИИ до начала ее использования.

В свою очередь, пользователи вправе:

• ознакомиться с пользовательским соглашением системы ИИ;
• на защиту своих персональных данных и конфиденциальной информации, обрабатываемой системой ИИ;
• осуществлять меры по защите своих прав на объекты прав интеллектуальной собственности, созданные с использованием систем ИИ;
• получать от собственника или владельца системы ИИ разъяснения о результатах ее деятельности, затрагивающей его права, свободы и законные интересы, в порядке, предусмотренном пользовательским соглашением и законодательством РК;
• запрашивать информацию о данных, на основании которых принято решение системой ИИ, в объеме, предусмотренном пользовательским соглашением, с учетом требований законодательства РК о персональных данных и их защите, требований по обеспечению конфиденциальности информации и коммерческой тайны;
• отказаться от взаимодействия с системой ИИ в случаях, когда обязательность такого взаимодействия не установлена законами РК.

Пользователи обязаны:

• использовать системы ИИ исключительно в рамках предоставленных прав доступа;
• соблюдать установленные правила и меры безопасности при использовании систем ИИ.

Системы ИИ в зависимости от степени воздействия на безопасность пользователей, общества и государства подразделяются на системы:

• минимальной степени риска, нарушение или прекращение функционирования которых окажет минимальное влияние на их пользователей;
• средней степени риска, нарушение или прекращение функционирования которых может привести к снижению эффективности и результативности деятельности пользователей и причинить моральный вред или нанести материальный ущерб;
• высокой степени риска, нарушение или прекращение функционирования которых может привести к чрезвычайной ситуации социального и (или) техногенного характера и (или) значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей, инфраструктуры РК, жизнедеятельности физических лиц.

Системы ИИ в зависимости от степени независимости в принятии решений и воздействия на пользователя подразделяются на системы:

• низкой автономности, предназначенные для автоматизированной обработки данных и формирования рекомендаций, прогнозов или вариантов решений, однако окончательный выбор и действия которых всегда осуществляются человеком;
• средней автономности, предназначенные для автономной обработки и принятия решений, при которых сохраняется возможность корректировки или отмены таких решений человеком;
• высокой автономности, предназначенные для автономной обработки и принятия решений, при которых корректировка или отмена таких решений человеком полностью исключена либо технически невозможна.

Особенности создания и эксплуатации систем искусственного интеллекта высокой автономности устанавливаются законами Республики Казахстан.

На территории РК запрещаются создание и эксплуатация систем ИИ которые могут:

• использовать подсознательные, манипулятивные или иные методы, искажающие поведение физического лица и ограничивающие способность принимать осознанные решения или вынуждающие принимать решения, которые могут причинить вред или создать угрозу причинения вреда;
• использовать моральную и (или) физическую уязвимость физического лица из-за возраста, инвалидности, социального положения и любых иных обстоятельств с целью причинения или создания угрозы причинения вреда лицу;
• оценивать и классифицировать физических лиц или группы лиц в течение определенного периода времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных характеристик, за исключением случаев, предусмотренных законами РК;
• осуществлять сбор и обработка персональных данных с нарушением законодательства РК о персональных данных и их защите;
• классифицировать физических лиц на основе их биометрических данных для формирования выводов об их расе, политических взглядах, религиозной принадлежности, и по любым иным обстоятельствам (критериям) в целях использования для какой-либо дискриминации физического лица;
• определение эмоций физического лица без его согласия, за исключением случаев, предусмотренных законами РК;
• создание и распространение запрещенных законами РК результатов деятельности систем искусственного интеллекта.

Также системы искусственного интеллекта в зависимости от режима использования подразделяются на открытые, закрытые и локальные.

Распространение синтетических результатов деятельности систем ИИ допускается только при условии их маркировки в машиночитаемой форме и сопровождения визуальной либо иной формой предупреждения, обеспечивающей возможность восприятия пользователем без применения методов, затрудняющих такое восприятие.

Ответственность за информирование пользователей о синтетических результатах деятельности систем искусственного интеллекта возложена законом на собственников или владельцев таких систем.

Возмещение вреда, причиненного системами искусственного интеллекта, осуществляется в порядке, определенном Гражданским кодексом.

Также установлено, что страхование ответственности за вред, причиненный системами искусственного интеллекта, и рисков, связанных с использованием систем искусственного интеллекта, осуществляется в соответствии с законами РК.

Закон вводится в действие с 17 января 2026 года.

Мы сообщали, что Токаев подписал закон "Об искусственном интеллекте".

Также мы рассказывали, что в Казахстане вводится срок действия согласия на обработку персональных данных.