1. Системы искусственного интеллекта в зависимости от степени воздействия на безопасность пользователей, общества и государства подразделяются на системы:

1) минимальной степени риска, нарушение или прекращение функционирования которых окажет минимальное влияние на их пользователей;

2) средней степени риска, нарушение или прекращение функционирования которых может привести к снижению эффективности и результативности деятельности пользователей и причинить моральный вред или нанести материальный ущерб;

3) высокой степени риска, нарушение или прекращение функционирования которых может привести к чрезвычайной ситуации социального и (или) техногенного характера и (или) значительным негативным последствиям для обороны, безопасности, международных отношений, экономики, отдельных сфер хозяйства, пользователей, инфраструктуры Республики Казахстан, жизнедеятельности физических лиц.

Отнесение систем искусственного интеллекта к минимальной, средней либо высокой степени риска осуществляется ее собственником и (или) владельцем в соответствии с правилами классификации объектов информатизации.

Системы искусственного интеллекта высокого риска, отнесенные к критически важным объектам информационно-коммуникационной инфраструктуры, а также предназначенные для формирования государственных электронных информационных ресурсов, приравниваются к государственным в части соблюдения требований по обеспечению информационной безопасности.

2. Системы искусственного интеллекта в зависимости от степени независимости в принятии решений и воздействия на пользователя подразделяются на системы:

1) низкой автономности, предназначенные для автоматизированной обработки данных и формирования рекомендаций, прогнозов или вариантов решений, однако окончательный выбор и действия которых всегда осуществляются человеком;

2) средней автономности, предназначенные для автономной обработки и принятия решений, при которых сохраняется возможность корректировки или отмены таких решений человеком;

3) высокой автономности, предназначенные для автономной обработки и принятия решений, при которых корректировка или отмена таких решений человеком полностью исключена либо технически невозможна.

Особенности создания и эксплуатации систем искусственного интеллекта высокой автономности устанавливаются законами Республики Казахстан.

3. На территории Республики Казахстан запрещаются создание и эксплуатация систем искусственного интеллекта, обладающих одной из следующих функциональных возможностей:

1) использование подсознательных, манипулятивных или иных методов, искажающих поведение физического лица и ограничивающих способность принимать осознанные решения или вынуждающих принимать решения, которые могут причинить вред или создать угрозу причинения вреда;

2) использование моральной и (или) физической уязвимости физического лица из-за возраста, инвалидности, социального положения и любых иных обстоятельств с целью причинения или создания угрозы причинения вреда лицу;

3) оценка и классификация физических лиц или группы лиц в течение определенного периода времени на основе их социального поведения или известных, предполагаемых или прогнозируемых личных характеристик, за исключением случаев, предусмотренных законами Республики Казахстан;

4) сбор и обработка персональных данных с нарушением законодательства Республики Казахстан о персональных данных и их защите;

5) классификация физических лиц на основе их биометрических данных для формирования выводов об их расе, политических взглядах, религиозной принадлежности, и по любым иным обстоятельствам (критериям) в целях использования для какой-либо дискриминации физического лица;

6) определение эмоций физического лица без его согласия, за исключением случаев, предусмотренных законами Республики Казахстан;

7) создание и распространение запрещенных законами Республики Казахстан результатов деятельности систем искусственного интеллекта.

4. Системы искусственного интеллекта в зависимости от режима использования подразделяются на открытые, закрытые и локальные.

Открытые системы искусственного интеллекта - системы, архитектура и параметры которых доступны для свободного использования, модификации и распространения в соответствии с условиями пользовательского соглашения.

Закрытые системы искусственного интеллекта - системы, доступ к архитектуре и параметрам которых ограничен их собственником или владельцем.

Закрытые системы используются в соответствии с условиями пользовательского соглашения и нормами законодательства Республики Казахстан.

Использование открытых систем искусственного интеллекта для обработки данных, доступ к которым ограничен законами Республики Казахстан, допускается только при условии соблюдения требований законодательства Республики Казахстан об информатизации.

Локальные системы искусственного интеллекта - системы, обучение и эксплуатация которых осуществляются в пределах информационно-коммуникационной инфраструктуры владельца (оператора) без подключения к сетям телекоммуникаций общего пользования.

Локальные системы искусственного интеллекта применяются для обработки данных, доступ к которым ограничен законами Республики Казахстан, а также в иных случаях, когда в соответствии с законодательством Республики Казахстан не допускается возможность использования систем, имеющих подключение к сетям телекоммуникаций общего пользования.

1. Под управлением рисками систем искусственного интеллекта понимается непрерывный процесс, запланированный и выполняемый собственником и (или) владельцем на протяжении всего жизненного цикла системы искусственного интеллекта, включающий:

1) выявление и анализ известных и прогнозируемых рисков системы искусственного интеллекта при использовании в соответствии с ее предполагаемым назначением;

2) оценку рисков системы искусственного интеллекта, осуществляемую в соответствии с ее предполагаемым назначением и в условиях предсказуемого нецелевого использования;

3) принятие соответствующих и целенаправленных мер по управлению рисками, предназначенных для предупреждения и устранения выявленных рисков;

4) регулярное, не реже одного раза в год, обновление рисков.

2. В случае выявления рисков возникновения обстоятельств, указанных в пункте 3 статьи 17 настоящего Закона, собственники и владельцы систем искусственного интеллекта должны принять незамедлительные меры, направленные на предотвращение и минимизацию ущерба, а также защиту прав, свобод и законных интересов физических лиц, общества, в том числе путем приостановки или полного прекращения эксплуатации такой системы искусственного интеллекта.

1. Перечни доверенных систем искусственного интеллекта высокой степени риска формируются отраслевыми государственными органами в целях обеспечения доверия и распространения лучших практик применения систем искусственного интеллекта в соответствующей отрасли (сфере) и на постоянной основе публикуются на интернет-ресурсах государственных органов в порядке, определяемом уполномоченным органом.

2. Собственники и (или) владельцы систем искусственного интеллекта, претендующие на включение своих систем в перечень доверенных, осуществляют аудит систем искусственного интеллекта.

1. Аудит систем искусственного интеллекта проводится в соответствии с правилами проведения аудита информационных систем.

2. При проведении аудита систем искусственного интеллекта дополнительно подлежат оценке:

1) качество и правомерность использования библиотек данных, применяемых для обучения моделей искусственного интеллекта;

2) наличие запрещенных функциональных возможностей систем искусственного интеллекта в соответствии с настоящим Законом.

1. Пользователи должны быть проинформированы о том, что товары, работы и услуги произведены или оказываются с использованием систем искусственного интеллекта.

2. Распространение синтетических результатов деятельности систем искусственного интеллекта допускается только при условии их маркировки в машиночитаемой форме и сопровождения визуальной либо иной формой предупреждения, обеспечивающей возможность восприятия пользователем без применения методов, затрудняющих такое восприятие.

3. Ответственность за информирование пользователей о синтетических результатах деятельности систем искусственного интеллекта возлагается на собственников или владельцев таких систем.

4. Требования к принятию решений на основании исключительно автоматизированной обработки персональных данных устанавливаются законодательством Республики Казахстан о персональных данных и их защите.

5. Обязанность по обеспечению соответствия результатов деятельности систем искусственного интеллекта требованиям законодательства Республики Казахстан возлагается на собственников и (или) владельцев систем искусственного интеллекта.

1. В целях обеспечения прозрачности и подотчетности в сфере искусственного интеллекта применяются машиночитаемые формы, позволяющие автоматизированным способом фиксировать и распознавать информацию.

2. Машиночитаемые формы должны обеспечивать однозначное и автоматическое распознавание соответствующих условий системами искусственного интеллекта и иными средствами обработки данных.

3. Порядок разработки, применения и распространения машиночитаемых форм определяется уполномоченным органом.

1. Произведения, созданные с использованием систем искусственного интеллекта, охраняются авторским правом только в случае наличия творческого вклада человека в их создание.

2. Текстовые запросы, направляемые в системы искусственного интеллекта, являющиеся результатом интеллектуальной творческой деятельности человека, признаются объектами авторского права в соответствии с законодательством Республики Казахстан об авторском праве и смежных правах.

3. Использование произведений для обучения моделей искусственного интеллекта не относится к случаям свободного использования произведений в образовательных или научных целях, предусмотренным законодательством Республики Казахстан об авторском праве и смежных правах.

4. Использование произведений для обучения моделей искусственного интеллекта не предполагает их использования в формах, относящихся к личным неимущественным и имущественным (исключительным) правам автора, включая воспроизведение, распространение, переработку, публичный показ, исполнение, сообщение в эфир или по кабелю, доведение до всеобщего сведения и иные действия, предусмотренные законодательством Республики Казахстан об авторском праве и смежных правах.

5. Использование произведений для обучения моделей искусственного интеллекта допускается только при отсутствии запрета со стороны автора или правообладателя, выраженного в машиночитаемой форме.

1. Возмещение вреда, причиненного системами искусственного интеллекта, осуществляется в порядке, определенном Гражданским кодексом Республики Казахстан.

2. Страхование ответственности за вред, причиненный системами искусственного интеллекта, и рисков, связанных с использованием систем искусственного интеллекта, осуществляется в соответствии с законами Республики Казахстан.