Казахстанцам грозит уголовная ответственность за создание и распространение фейковых новостей с использованием искусственного интеллекта. В свете недавних инцидентов, таких как фальшивое селфи с "президентом" и вымышленный роман с Брэдом Питтом, власти ст

Очень реалистичные изображения, созданные нейросетями, всё чаще вводят людей в заблуждение. С ними "общаются" в мессенджерах, им верят, им переводят деньги. В данной статье рассматривается, как в Казахстане планируют контролировать такой контент и кто несёт ответственность за фейки.

С чего всё началось

Не так давно в Кыргызстане блогерша решила "хайпануть" и выложила сгенерированное изображение президента Садыра Жапарова. Итог — поход в суд и административный штраф в 5 500 сомов (около 32 тысяч тенге).

Адвокаты считают, что она легко отделалась. Любая подобная картинка может трактоваться как клевета или издевка, которая вводит в заблуждение целую страну.

Мошенники превратили искусственный интеллект в идеальный инструмент для выкачивания денег. Например, в России, в Приморском крае, пенсионерка из Дальнереченска "общалась" по видеозвонку с Чонгуком, солистом K-pop-группы. Позже оказалось, что образ корейского айдола был создан мошенниками с помощью ИИ. Женщина перевела злоумышленникам почти 650 тысяч рублей (4,3 миллиона тенге) за "налоги" и "организацию встречи", после чего "Чонгук" исчез.

А в 2025 году жительница Костаная шесть месяцев переписывалась в соцсетях с человеком, который представился голливудским актером Киану Ривзом. Со временем он рассказал ей о "трудной жизненной ситуации" и попросил финансовой помощи в 400 долларов. Не зная, как сделать перевод, женщина обратилась в банк. Сотрудники сразу заметили, что счет, на который она собиралась отправить деньги, принадлежит неизвестной игровой компании, что и вызвало подозрения.

Изображение сгенерировано при помощи нейросети Midjourney

В январе 2025 года также стало известно ещё об одном инциденте с фейковой знаменитостью. Тогда француженка Анна поверила в онлайн-роман с Брэдом Питтом и перевела мошенникам почти 830 тысяч евро. Обман раскрыли летом, когда она увидела актера с новой партнёршей.

Мошенники связывались через соцсети, выдавая себя за мать Питта и самого актера, присылали фото и копии документов. Позже стало ясно, что злоумышленника, выдававшего себя за Питта, задержали в Нигерии; он входил в группу из 3–4 человек, обманувших как минимум 34 жертвы и пытавшихся выдавать себя за других знаменитостей, включая Киану Ривза.

Как работает закон в Казахстане

В Казахстане в настоящее время действует закон "Об искусственном интеллекте", вступивший в силу 18 января. Главное требование — любой синтетический контент должен быть маркирован.

"В рамках закона "Об искусственном интеллекте" распространение синтетических результатов деятельности систем ИИ допускается только при условии их маркировки в машиночитаемой форме и сопровождения визуальной либо иной формой предупреждения, обеспечивающей возможность восприятия пользователем без применения методов, затрудняющих такое восприятие", — сообщили в Министерстве искусственного интеллекта.

Ответственность возлагается на владельцев платформ и ИИ-систем, а не на каждого пользователя. Идея в том, чтобы сервисы не допускали распространения неотмеченного синтетического контента. Пометки вроде "Создано ИИ" или "Сгенерировано нейросетью" теперь не рекомендация, а обязанность.

За отсутствие маркировки предусмотрены штрафы:

• для физических лиц (владельцы или собственники) — 15 МРП;
• для малого бизнеса или некоммерческих организаций — 20 МРП;
• для среднего бизнеса — 30 МРП;
• для крупного бизнеса — 100 МРП.

Контроль будет вести специальный уполномоченный орган по ИИ. Он будет реагировать на жалобы, обращения и результаты мониторинга.

Что рассказали в МВД

В МВД на запрос о правилах маркировки ИИ-контента ответили, что пока разрабатываются, а точный механизм их работы еще не готов.

"В настоящее время механизм практической реализации норм, предусматривающих обязательную маркировку синтетического контента, созданного с использованием технологий искусственного интеллекта, находится на стадии формирования", — объяснили в ведомстве.

В министерстве подчеркнули, что за нарушение этих требований отвечает уполномоченный государственный орган.