Большой проблемой общества являются дипфейки.
На заседании мажилиса парламента РК депутат Екатерина Смышляева рассказала о законопроекте об искусственном интеллекте, передает inbusiness.kz.
По её словам, вводится аудит систем искусственного интеллекта.
“Системы ИИ могут быть добровольно включены в отраслевые списки доверия только после прохождения такого аудита. При этом для иных систем аудит остается добровольным. В дополнение к общим параметрам аудит оценивает качество библиотек данных и отсутствие запрещенных функций. Большой проблемой общества являются дипфейки. Их качество таково, что мы уже не можем отличить синтетические материалы от настоящих. Законом устанавливаются обязательства по маркировке синтетического контента в доступной для человека форме”, — сказала Смышляева.
Кроме того, по её словам, при оказании услуг и реализации товаров с ИИ – потребители должны быть предупреждены об этом.
“Для соблюдения баланса между развитием технологий и безопасностью все системы делятся на уровни риска — низкий, средний, высокий, а также на степень автономности — низкий, средний, высокий. Системы высокого риска приравниваются к критически важным объектам инфраструктуры в части соблюдения требований по информационной безопасности. Они будут находится под особым контролем. Эксплуатация систем высокой автономности будет регулироваться только на уровне законов. Уже в ближайшее время, например, такое регулирование потребуется для беспилотного транспорта”, — продолжила депутат.
Остальные системы смогут работать с минимальным регуляторным воздействием, добавила она.
“Большой проблемой является то, что генеративным ИИ часто загружается служебная и конфиденциальная информация. Теперь использование открытых систем будет жестко ограничено требованиями информационной безопасности. Особого внимания заслуживают локальные системы и модели, которые обучаются и функционируют в закрытом контуре. Они отвечают на вызов, который серьёзно волнует общество — это объективность открытых генеративных моделей. Сегодня они невероятно популярны у детей и молодежи. Чаты становятся для них советчиками, друзьями и даже единомышленниками. Но при этом такие модели обучены на глобальных, в том числе коммерческих и политизированных данных, где отсутствуют наши национальные ценности и мировоззренческие ориентиры”, — отметила мажилисвумен.
Также, по её словам, одним из самых обсуждаемых в мире является вопрос авторского права.
“Законопроектом предусмотрено, что произведения, созданные с помощью систем ИИ без творческого участия человека, не защищены авторским правом. Охраняемым объектом могут признаваться запросы пользователей творческого характера – промпты. Использование произведений для обучения моделей искусственного интеллекта допускается только в том случае, если автор или правообладатель не наложили запрет в машиночитаемой форме. Кроме того, сопутствующие законопроекты предусматривают меры по защите персональных данных и кибербезопасности. За нарушение норм закона предусмотрена административная ответственность”, — сообщила Смышляева.
Отметим, что мажилис принял во втором чтении закон “Об искусственном интеллекте” и сопутствующие ему поправки.