В Казахстане запретят создание «терминаторов»

Будущий закон об искусственном интеллекте (ИИ) обсуждают в парламенте Казахстана

АСТАНА, 3 мар — Sputnik. В мажилисе (нижняя палата казахстанского парламента) состоялась презентация проекта закона «Об искусственном интеллекте» и сопутствующих ему поправок в законодательные акты, в том числе в Кодекс об административных правонарушениях.

Будущий закон представила коллегам секретарь комитета по экономической реформе и региональному развитию, депутат Екатерина Смышляева.»Цель законопроекта — создать прозрачную, эффективную правовую базу для внедрения IT-технологий в нашу экономику. Особое внимание развитию искусственного интеллекта уделяет Глава государства, он неоднократно давал соответствующие поручения. Более того, в ходе недавнего посещения Центра развития искусственного интеллекта Глава государства особо отметил важность правильной модели регулирования именно этой технологии по той причине, что это, с одной стороны — вопрос безопасности, с другой стороны — это вопрос развития. И здесь нам важно держать баланс. Согласно этим поручениям, мы сегодня приступаем к работе над проектом Закона «Об искусственном интеллекте», — заявила т Екатерина Смышляева.

В рамках планируемых изменений ожидается внедрение новых норм для обеспечения безопасности и регулирования сферы ИИ.

Все системы искусственного интеллекта разделят по три вида по степеням риска. Это позволит регулировать их эксплуатацию в зависимости от потенциального влияния на безопасность пользователей, общества и государства.

Первая категория — вспомогательные системы искусственного интеллекта, где ИИ выполняет функции помощника, и все окончательные решения принимает исключительно пользователь.

Вторая категория — полуавтономные системы. От первой отличается тем, что пользователь дает ИИ ограниченные права на автоматизированное принятие решения в рамках заранее заданных параметров. В то же время, человек может вмешиваться в процесс принятия решений, а также изменять результаты деятельности системы.

И, наконец, третья категория — полностью автономные системы, которые принимают решения вне зависимости от заранее заданных параметров и не поддаются контролю со стороны владельца данной системы. Это именно то, что описано в различных романах «фэнтази», посвященных «восстанию машин» (самый популярный из которых – кинороман «Терминатор»).»На территории Казахстана запрещается создание и выпуск в обращение полностью автономных систем искусственного интеллекта», — подчеркнула Екатерина Смышляева в своем выступлении.

Категорическому запрету подлежит создание следующих систем ИИ.

Системы использующие подсознательные, манипулятивные или иных методы, существенно искажающих поведение человека и ограничивающих способность принимать осознанные решения, или вынуждающих принимать решения, которые могут причинить человеку вред или создавать угрозу причинения вреда жизни, здоровью и имуществу.

Системы использующие моральную или физическую уязвимость человека из-за возраста, инвалидности, социального положения и по любым иным обстоятельствам с целью причинения или создания угрозы причинения ему вреда.

Системы определение эмоций человека без его согласия (за исключением случаев, предусмотренных законами Казахстана).

Под запрет подпадает и удаленная биометрическая идентификация людей в реальном времени в общественных местах (за исключением случаев, оговоренных законодательством).

В рамках законопроекта власти Казахстана намерен создать национальную платформу искусственного интеллекта и библиотеки данных.

Будет запрещена автоматизированная обработка персональных данных (за исключением случаев, когда получено согласие или в случаях, предусмотренных законодательством Казахстана), в результате которой у субъекта персональных данных, во-первых, создается угроза причинения вреда жизни, здоровью и имуществу; во-вторых, возникают, изменяются или прекращаются права, законные интересы.

Предусмотрено введение штрафов за нарушение новых норм – для этого планируется внести соответствующие правки в КоАП РК.

Видами нарушения будут являться:

— не обеспечение собственниками или владельцами систем ИИ информирования пользователей о синтетических результатах деятельности генеративной системы ИИ, которые могут ввести их в заблуждение;

— не осуществление собственниками или владельцами систем ИИ управления рисками систем ИИ, повлекшими негативное воздействие на здоровье или благополучие людей, создание или распространения запрещенной информации, дискриминации или нарушения прав человека и иного вреда, если это действие (бездействие) не содержит признаков уголовно наказуемого деяния.

Так за нарушения, связанные с использованием ИИ, включая необеспечение информирования о синтетических результатах и неуправление рисками систем ИИ, предлагается ввести штрафы от 15 до 200 МРП (от 58 980 тенге до 786 400 тенге).

В частности, за первое нарушение:

При повторном нарушении в течение года штрафы увеличиваются:

Не исключен момент приостановления или запрета работы системы ИИ.

Как отметил председатель комитета по экономической реформе и региональному развитию Мажилиса Нуртай Сабильянов, законопроекты направлены на установление единой правовой базы использования технологий ИИ.

Планируется создание Национальной платформы ИИ: уже сейчас формируется государственная технологическая инфраструктура для разработки, обучения и тестирования систем ИИ в контролируемой среде, что способствует развитию отечественных решений в этой сфере.

Предлагаемые поправки предусматривают права и обязанности субъектов отношений в сфере ИИ. Кроме того, сопутствующим законопроектом обеспечивается защита прав потребителей в отношении продуктов с использованием ИИ, защита персональных данных и прочее.