В 2023 году Министерство внутренних дел предупредило граждан Узбекистана о случае кибермошенничества, связанного с распространением фальшивого видео с участием Премьер-министра Республики Узбекистан Абдуллы Арипова. Злоумышленники использовали искусственный интеллект для добавления звуковой дорожки и обработки видео с участием главы правительства нашей страны, на котором он якобы сообщал об организации Комитета по возврату средств жертвам кибермошенничества с обещаниями десятикратных выплат в качестве компенсации.

К сожалению, по мере того, как технологии искусственного интеллекта продолжают развиваться, злоумышленники используют технологию «deepfake» (далее – дипфейк) для распространения дезинформации, совершения мошенничества, создания изображений сексуального содержания и других вредных действий. Это подчеркивает текущую потребность Узбекистана в установлении правил, регулирующих технологию дипфейков, чтобы избежать его потенциальных ужасающих последствий, с которыми сталкиваются другие страны, пострадавшие от применения этой технологии.

Что такое дипфейк?

Оксфордский словарь английского языка определяет дипфейк как «любое из различных средств массовой информации, особенно видео, которое было подвергнуто цифровым манипуляциям для убедительной замены сходства одного человека с другим, часто используемое злонамеренно, чтобы показать, что кто-то делает что-то, чего он или она не делали». Другими словами, дипфейки – это измененные видеоизображения и аудиозаписи, которые потенциально могут нанести ущерб репутации лица, сфабриковать доказательства, подорвать доверие к демократическим институтам и способствовать преступной деятельности.

Несмотря на то, что дипфейки в первую очередь ассоциируются с негативными последствиями, Кэролайн Квирк подчеркивает их полезное применение. Например, технология дипфейков может быть использована множеством способов: в образовании для создания интерактивного контента, в киноиндустрии для плавной замены актера его дублером или дубляжа в фильме на иностранном языке, а также в сфере розничной торговли для улучшения восприятия потенциального покупателя.

Несмотря на положительные результаты применения, дипфейки оказывают негативное влияние на общество. Мы хотели бы рассмотреть потенциальные риски, связанные с технологией дипфейков, и предложить правительству принять меры по совершенствованию действующего законодательства, внедрению и доработке нормативных актов, касающихся дипфейков.

Нужно ли нам регулировать дипфейки, созданные с помощью искусственного интеллекта, для предотвращения преступлений?

В ходе заседания Законодательной палаты Олий Мажлиса, прошедшего 24 октября 2023 года, было предварительно рассмотрено предложение по Закону «О внесении изменений и дополнений в Уголовный, Уголовно-процессуальный кодексы Республики Узбекистан и Кодекс Республики Узбекистан об административной ответственности». Депутаты подчеркнули: «В киберпространстве нередки случаи фальсификации фотографий, голосов и других биометрических данных физических лиц с использованием специальных программ». Они также признали настоятельную необходимость усиления ответственности для киберпреступников, которые обманывают людей, требуя деньги за отказ от распространения фейковых видео- или фотоматериалов.

Несмотря на недавнее введение в Особенную часть Уголовного кодекса Республики Узбекистан новой главы под названием «Преступления в сфере информационных технологий», которая устанавливает уголовную ответственность за девять конкретных преступлений, действующее законодательство не содержит положений, касающихся создания, распространения или использования дипфейков в злонамеренных целях. Это, в свою очередь, делает очевидной необходимость регулирования использования технологии дипфейков в нашей стране.

При этом, в Узбекистане существует множество причин для регулирования дипфейков. Самыми важными из них являются следующие:

1.Фейки стали основным инструментом распространения дезинформации. Дипфейк с вымышленным участием Абдуллы Арипова, в котором он обещает десятикратные выплаты в качестве компенсации, служит ярким примером такого случая. Распространение подобного вводящего в заблуждение контента не только наносит ущерб репутации конкретных лиц, но и подрывает доверие к государственным органам. Например, потенциальный фейковый видеоролик с участием министра внутренних дел, который якобы обвиняет Генеральную прокуратуру в ненадлежащем исполнении задач органов прокуратуры, может нанести ущерб репутации обоих правоохранительных органов. Другой пример, фейковое видео  с участием публичной фигуры, призывающей граждан Узбекистана воздержаться от употребления определенных видов товаров, допустим, зубной пасты «Colgate» из-за выдуманной причины может послужить дискредитации компании (производителя).

2.Технология дипфейков представляет угрозу безопасности женщин. Во многих странах достоинство, безопасность и личность женщин подвергаются угрозе со стороны злоумышленников, которые создают порнографический контент и изображения сексуального содержания. Случаи появления откровенного контента, созданного с помощью искусственного интеллекта и нацеленного на таких общественных деятелей, как Тейлор Свифт (певица), вызвали дискуссии о совершенствовании законодательства и введении уголовной ответственности за создание дипфейков в США. Следует отметить, что правительство Узбекистана обязано обеспечить безопасность женщин, как это гарантировано Конституцией и другими правовыми нормами.

3.Дипфейки способствуют мошеннической деятельности. По словам директора компании Onfido Аледа Оуэна, мошенники все чаще используют дипфейки как способ обмануть системы проверки личности. В Узбекистане преступники используют дипфейки для участия в мошеннических схемах, таких как выдача себя за директоров фирм или членов семьи с целью вымогательства денег у заинтересованных сторон или родственников. Недавними примерами таких случаев являются фейковые видеоролики с участием бизнесмена Зафара Хашимова и генерального директора Навоийского горно-металлургического комбината Кувондика Санакулова. Способность дипфейков безупречно и убедительно имитировать жесты, мимику и голоса усложняет выявление мошеннических действий, делая обычных граждан уязвимыми для обмана.

Принимая во внимание эти опасения, правительство Узбекистана должно принять всеобъемлющие нормативные акты против создания, распространения и злонамеренного использования дипфейков, для борьбы с дезинформацией, защиты прав женщин и снижения в стране числа преступлений, связанных с мошенничеством. Такие меры регулирования сохранят доверие, безопасность и добросовестность в цифровой сфере и защитят отдельных лиц от пагубных последствий манипулирования дипфейками.

Необходимо отметить, что большинство стран уже разработали свои законы, которые конкретно регулируют вопросы создания, использования и распространения дипфейков с использованием искусственного интеллекта. В Соединенных Штатах правительство приняло законопроект, направленный на защиту национальной безопасности от угроз, создаваемых технологией дипфейков, и обеспечение правовой защиты жертв, пострадавших от этой технологии. Аналогичным образом, китайское правительство ввело строгие правила, известные как положения «О глубоком синтезе», которые ограничивают создание дипфейков без согласия пользователя и требуют проверки контента, созданного с помощью искусственного интеллекта. В Соединенном Королевстве Великобритании и Северной Ирландии принятие Закона «О безопасности в Интернете» в 2023 году сделало незаконным распространение откровенных изображений или видеороликов с цифровыми манипуляциями, что позволило решить проблемы, связанные с распространением вводящего в заблуждение контента в Интернете. Кроме того, в Европейском союзе дипфейки будут регулироваться Законом «Об искусственном интеллекте», который является первым в мире законодательным актом об искусственном интеллекте.

Какие изменения должны быть внесены в законодательство?

Узбекистан подписал резолюцию 78/265 «Использование возможностей безопасных и заслуживающих доверия систем искусственного интеллекта для устойчивого развития», принятую Генеральной Ассамблеей 21 марта 2024 года, в которой подчеркивается важность достижения глобального консенсуса в отношении безопасных и заслуживающих доверия систем искусственного интеллекта, которые соответствуют международному праву, в частности Уставу Организации Объединенных Наций, Всеобщей декларации прав человека и Повестке дня в области устойчивого развития на период до 2030 года. Это свидетельствует о политической приверженности нашего государства к необходимости регулирования инновационных технологий искусственного интеллекта, в том числе дипфейков, созданных с помощью ИИ.

Исходя из этого и принимая во внимание вредное воздействие дипфейков на узбекское общество, выдвигаем следующие предложения:

Во-первых, правительство должно принять Закон «О регулировании искусственного интеллекта». Этот закон должен установить фундаментальные принципы использования технологий искусственного интеллекта, определить ключевые термины, такие, например, как «искусственный интеллект», «дипфейки» и т.д., определить государственные органы, ответственные за осуществление надзора за применением искусственного интеллекта в различных сферах государственной и общественной жизни и создать другие нормативные рамки для использования искусственного интеллекта.

Во-вторых, правительству Узбекистана следует рассмотреть вопрос о введении уголовной ответственности за создание, распространение и использование дипфейков в злонамеренных целях. В главу XX1 Уголовного кодекса следует добавить новую статью, предусматривающую уголовную ответственность за преступления, связанные с дипфейками. Предлагаем сформировать диспозицию новой статьи следующего содержания: «Незаконное создание, использование или распространение дипфейков, а равно совершение таких же действий с целью получения выгоды, введения в заблуждение или иной целью, направленной на причинение вреда лицу, обществу и государству…»

И, наконец, правительству следует признать использование искусственного интеллекта при совершении преступлений в качестве отягчающего обстоятельства при вынесении приговора. В статью 56 Уголовного кодекса следует внести поправки и включить использование искусственного интеллекта при совершении преступлений в качестве нового обстоятельства, отягчающего наказание. Основная причина этой поправки заключается в том, что преступник, использующий технологии искусственного интеллекта, может нанести наибольший вред обществу, экономическим, социальным и политическим институтам государства по сравнению с традиционными преступлениями.

Цель настоящей статьи – предложить нашему правительству создать нормативную базу для технологий искусственного интеллекта, в частности, установить уголовную ответственность за создание, использование или распространение дипфейков для совершения преступлений. Основные выводы свидетельствуют о том, что дипфейки являются важным инструментом распространения дезинформации, создающим угрозу безопасности, достоинству и личности граждан, особенно женщин, и способствующим преступной деятельности.

Узбекистану необходимо принять новый закон, регулирующий технологии искусственного интеллекта, в частности, ввести уголовную ответственность за злонамеренное использование дипфейков, и внести поправки в другие законодательные акты. Эти изменения должны сопровождаться использованием опыта развитых стран, таких как США, Англия, Китай и других.

Нашему правительству следует уделить первоочередное внимание этим мерам, чтобы предотвратить возможные серьезные последствия дипфейков и обеспечить привлечение виновных к ответственности, одновременно защищая права, свободы и законные интересы жертв этой технологии и предотвращая потенциальные преступления в сфере киберпространства.

Камрон Турсунмуродов, 
студент факультета «Уголовное правосудие» 
Ташкентского государственного юридического университета.