Казахстан стал первой страной на пространстве СНГ, принявшей масштабный, детально проработанный и ориентированный на защиту прав человека Закон «Об искусственном интеллекте», сопоставимый с ведущими международными стандартами.
Документ заложил комплексную правовую основу регулирования технологий искусственного интеллекта и обозначил приоритет ответственного, безопасного и человекоцентричного подхода к их внедрению, что вывело страну в число государств, формирующих современную глобальную повестку в сфере ИИ.
С момента подписания закона прошло 60 дней, и с сегодняшнего дня документ начал действовать в полном объеме. Этот шаг ознаменовал переход к системному и ответственному регулированию технологий искусственного интеллекта на государственном уровне.
Принятый закон создает целостную и многоуровневую правовую основу для разработки, внедрения и использования систем искусственного интеллекта во всех отраслях экономики и социальной сферы. Он охватывает вопросы государственного управления, промышленности, финансового сектора, здравоохранения, образования, науки, культуры и средств массовой информации. Впервые в национальном законодательстве ИИ рассматривается не только как технологический инструмент, но и как фактор, напрямую влияющий на права человека, общественные отношения и устойчивое развитие страны.
В сфере искусственного интеллекта законом закреплен приоритет человека, его прав, свобод и благополучия. Человек, его жизнь, достоинство и свобода воли признаются высшей ценностью при создании, внедрении и эксплуатации интеллектуальных систем. Закон прямо указывает, что использование ИИ не должно подменять человеческое мышление, ограничивать свободу выбора или снижать уровень ответственности человека за принимаемые решения. На всех этапах применения технологий автономия личности должна сохраняться, а роль человека оставаться определяющей.
Документ закрепляет базовые принципы использования искусственного интеллекта, среди которых справедливость и равенство, недопущение дискриминации, прозрачность и объяснимость алгоритмов, ответственность и подконтрольность, обеспечение безопасности и надежности ИИ-систем, а также защита персональных данных и конфиденциальной информации. Закон подчеркивает, что алгоритмы, влияющие на права и законные интересы граждан, должны быть понятными и поддаваться проверке, а их применение - сопровождаться контролем со стороны пользователей.
Существенный акцент сделан на информировании пользователей. Гражданам и организациям должна предоставляться полная, достоверная и своевременная информация о возможностях, характеристиках и ограничениях систем искусственного интеллекта. Это необходимо для их корректного и целевого использования, а также для осознанной оценки потенциальных рисков. Закон предусматривает право граждан быть проинформированными о применении автоматизированной обработки данных, ее последствиях и возможном влиянии на принятие решений, затрагивающих их права и обязанности.
Важной новеллой закона стало закрепление механизмов защиты прав и законных интересов граждан при использовании ИИ. Предусмотрена возможность возражения против автоматизированной обработки данных, а также право на получение разъяснений о принципах работы систем искусственного интеллекта. Операторы и пользователи ИИ обязаны обеспечивать доступность такой информации в понятной и недвусмысленной форме.
Отдельный раздел закона посвящен распределению ответственности между участниками жизненного цикла ИИ-систем. Четко разграничены обязанности собственников, владельцев, разработчиков и пользователей искусственного интеллекта. Все они несут ответственность за функционирование систем, обязаны осуществлять постоянный контроль, управлять рисками, проводить оценку возможного вреда и принимать меры по его предотвращению. Такой подход направлен на формирование культуры ответственного и этичного использования интеллектуальных технологий.
Закон учитывает и экологическую составляющую цифрового развития. Создание и эксплуатация систем искусственного интеллекта должны осуществляться с соблюдением требований энергоэффективности, рационального использования вычислительных мощностей и снижения негативного воздействия на окружающую среду. Эти нормы отражают стремление интегрировать развитие высоких технологий в общую стратегию устойчивого развития и зеленой экономики.
Повышенное внимание уделено вопросам информационной и кибербезопасности. Эксплуатация ИИ-систем допускается только при условии строгого соблюдения требований законодательства о защите персональных данных и конфиденциальной информации. Закон предусматривает меры по предотвращению несанкционированного доступа, утечек данных и злоупотреблений, а также обязывает использовать качественные, достоверные и репрезентативные наборы данных. Отдельно закреплена обязанность обеспечивать устойчивость, надежность и отказоустойчивость ИИ-систем.
Впервые в казахстанской практике введена классификация систем искусственного интеллекта по уровню риска -
минимального, среднего и высокого. Такой подход позволяет дифференцировать требования к регулированию и контролю в зависимости от потенциального воздействия технологий на человека и общество. Системы высокого риска, применяемые в критически важных сферах, включая государственное управление, национальную безопасность, здравоохранение и формирование государственных информационных ресурсов, по требованиям информационной безопасности приравниваются к государственным системам. Это предполагает усиленный контроль, обязательные процедуры оценки соответствия и повышенные требования к эксплуатации.
Дополнительно установлена классификация ИИ-систем по уровню автономности – от решений, функционирующих исключительно с участием человека, до полностью автономных систем. При этом подчеркивается, что даже при высоком уровне автономности должен сохраняться механизм человеческого вмешательства в случаях, когда это необходимо для защиты прав и интересов граждан.
Закон четко определяет перечень ИИ-систем, создание и использование которых на территории Казахстана запрещено. Под запрет подпадают технологии, применяющие манипулятивные или подсознательные методы воздействия на человека, использующие уязвимость по возрасту, состоянию здоровья или социальному положению, осуществляющие социальную или биометрическую дискриминацию, определяющие эмоции человека без его согласия, нарушающие требования законодательства о персональных данных, а также создающие и распространяющие запрещенный контент. Эти нормы направлены на предотвращение злоупотреблений и формирование этичных рамок применения искусственного интеллекта.
Значительный блок закона посвящен вопросам прозрачности и маркировки. Пользователи должны быть своевременно уведомлены о том, что товары, работы или услуги созданы либо предоставляются с применением искусственного интеллекта. Синтетический контент подлежит обязательной маркировке в машиночитаемой форме и должен сопровождаться понятным предупреждением для пользователей, что способствует повышению доверия и развитию цифровой грамотности в обществе.
Отдельно урегулированы вопросы интеллектуальной собственности и авторского права. Произведения, созданные с использованием искусственного интеллекта, признаются объектами авторского права только при наличии доказанного творческого вклада человека. При этом текстовые запросы, промпты и иные формы взаимодействия с ИИ, являющиеся результатом интеллектуальной деятельности, также подлежат правовой охране. Использование произведений для обучения ИИ-моделей допускается при отсутствии запрета со стороны автора или правообладателя, выраженного в машиночитаемой форме, что позволяет соблюдать баланс между интересами разработчиков и защитой прав правообладателей.
Эксперты отмечают, что вступление в силу Закона «Об искусственном интеллекте» создает прочную основу для развития инноваций, внедрения передовых цифровых решений и привлечения инвестиций в технологический сектор. Закон ориентирован на формирование в Казахстане ответственной, безопасной и ориентированной на человека модели развития искусственного интеллекта, обеспечивающей баланс между технологическим прогрессом, защитой прав и свобод граждан и устойчивым развитием цифровой экономики страны.
Подготовил Артём КИМ,
фото пресс-службы Министерства ИИ и цифровизации РК
