На ИИ-контент обяжут наносить специальную маркировку

Большой проблемой общества являются дипфейки.

На заседании мажилиса парламента РК депутат Екатерина Смышляева рассказала о законопроекте об искусственном интеллекте, передает inbusiness.kz.

По её словам, вводится аудит систем искусственного интеллекта.

"Системы ИИ могут быть добровольно включены в отраслевые списки доверия только после прохождения такого аудита. При этом для иных систем аудит остается добровольным. В дополнение к общим параметрам аудит оценивает качество библиотек данных и отсутствие запрещенных функций. Большой проблемой общества являются дипфейки. Их качество таково, что мы уже не можем отличить синтетические материалы от настоящих. Законом устанавливаются обязательства по маркировке синтетического контента в доступной для человека форме", — сказала Смышляева.

Кроме того, по её словам, при оказании услуг и реализации товаров с ИИ – потребители должны быть предупреждены об этом.

"Для соблюдения баланса между развитием технологий и безопасностью все системы делятся на уровни риска — низкий, средний, высокий, а также на степень автономности — низкий, средний, высокий. Системы высокого риска приравниваются к критически важным объектам инфраструктуры в части соблюдения требований по информационной безопасности. Они будут находится под особым контролем. Эксплуатация систем высокой автономности будет регулироваться только на уровне законов. Уже в ближайшее время, например, такое регулирование потребуется для беспилотного транспорта", — продолжила депутат.

Остальные системы смогут работать с минимальным регуляторным воздействием, добавила она.

"Большой проблемой является то, что генеративным ИИ часто загружается служебная и конфиденциальная информация. Теперь использование открытых систем будет жестко ограничено требованиями информационной безопасности. Особого внимания заслуживают локальные системы и модели, которые обучаются и функционируют в закрытом контуре. Они отвечают на вызов, который серьёзно волнует общество — это объективность открытых генеративных моделей. Сегодня они невероятно популярны у детей и молодежи. Чаты становятся для них советчиками, друзьями и даже единомышленниками. Но при этом такие модели обучены на глобальных, в том числе коммерческих и политизированных данных, где отсутствуют наши национальные ценности и мировоззренческие ориентиры", — отметила мажилисвумен.

Также, по её словам, одним из самых обсуждаемых в мире является вопрос авторского права.

"Законопроектом предусмотрено, что произведения, созданные с помощью систем ИИ без творческого участия человека, не защищены авторским правом. Охраняемым объектом могут признаваться запросы пользователей творческого характера – промпты. Использование произведений для обучения моделей искусственного интеллекта допускается только в том случае, если автор или правообладатель не наложили запрет в машиночитаемой форме. Кроме того, сопутствующие законопроекты предусматривают меры по защите персональных данных и кибербезопасности. За нарушение норм закона предусмотрена административная ответственность", — сообщила Смышляева.

Отметим, что мажилис принял во втором чтении закон "Об искусственном интеллекте" и сопутствующие ему поправки.