Нью-Йорк изъял 12 сайтов с дипфейками, нацеленными на недобровольные изображения знаменитостей

Введение

В рамках знакового шага против растущей и вредоносной индустрии порнографии с использованием дипфейков без согласия жертв, власти Нью-Йорка успешно изъяли более дюжины веб-сайтов. Эти платформы играли ключевую роль в распространении тысяч откровенных видео, созданных с помощью ИИ, изображающих людей, подавляющее большинство из которых — женщины, в сфабрикованных сексуальных сценариях. Эта скоординированная акция прокуратуры Манхэттена является одним из наиболее существенных усилий на сегодняшний день по демонтажу инфраструктуры, поддерживающей эту форму цифрового насилия.

Ключевые детали

Изъятые домены: 12 веб-сайтов, специализировавшихся на порнографии с использованием дипфейков, были отключены.
Число жертв: Примерно 1200 человек, преимущественно женщин, были изображены в недобровольных материалах, размещенных на этих сайтах.
Целевые лица: Среди жертв — инфлюенсеры в социальных сетях, актрисы, спортсмены, музыканты, политики и активисты.
Правовая основа: Изъятие было проведено в соответствии с уголовно-процессуальными законами Нью-Йорка, с использованием нового законодательства и существующих правовых рамок для борьбы с синтетическими интимными изображениями.
Продолжающееся расследование: Правоохранительные органы продолжают расследование в отношении лиц, ответственных за управление веб-сайтами и загрузку вредоносного контента.

Предыстория

На протяжении почти десятилетия интернет страдал от веб-сайтов, посвященных созданию и распространению порнографии с использованием дипфейков без согласия жертв. Эта технология, использующая искусственный интеллект для убедительной наложения лиц на откровенные видео или создания совершенно нового синтетического контента, становилась все более изощренной. Появление удобных инструментов на базе ИИ демократизировало создание такого материала, что привело к взрывному росту вредоносного контента. В то время как дипфейки часто используются против обычных граждан, знаменитости и публичные фигуры стали заметными мишенями из-за своей известности, что усиливает охват и воздействие таких нарушений. Легкость, с которой эти видео могут быть созданы и распространены, часто с реалистичными деталями, представляет собой серьезную проблему для жертв, стремящихся вернуть себе цифровой образ и защитить свою конфиденциальность.

«Эти ужасающие нарушения конфиденциальности преследуют жертв в их карьере и личной жизни и оказывают огромное влияние на их эмоциональное и психическое благополучие», — заявил окружной прокурор Манхэттена Элвин Брэгг.

Анализ воздействия

Изъятие этих 12 веб-сайтов с дипфейками представляет собой значительную победу в продолжающейся борьбе с синтетическими недобровольными интимными изображениями (NCII). Леони Оеммиг, исследователь Института стратегического диалога (ISD), подчеркнула важность этой правоприменительной акции, отметив, что она демонстрирует возможность борьбы с таким вредоносным контентом даже при разрозненном законодательстве в разных юрисдикциях. Тот факт, что изъятые сайты оказались недоступны даже через VPN, указывает на надежное техническое и юридическое пресечение. Веб-сайты, которые, вероятно, привлекли миллионы просмотров, часто использовали откровенные названия и обещали реалистичные дипфейки известных личностей. Архивные данные свидетельствуют о том, что некоторые видео были просмотрены десятки тысяч раз, что подчеркивает широкое распространение этого незаконного материала. Бенджамин Шульц, ведущий исследователь American Sunlight Project, отметил, что многие видео представляли собой измененные порнографические фильмы с подставленными лицами жертв, и что избранные должностные лица были специально представлены на некоторых сайтах; исследования показывают участие политиков из США, Европы и Великобритании.

Более широкий контекст

Правовая база, касающаяся дипфейков, медленно адаптировалась к быстрым достижениям в области технологий ИИ. Хотя некоторые юрисдикции приняли специальные законы против создания и распространения NCII, правоприменение часто было затруднено. Однако американский закон «Take It Down Act» предоставляет более надежную основу, наделяя правоохранительные органы полномочиями изымать веб-сайты, занимающиеся такой деятельностью. Действия в Нью-Йорке являются свидетельством потенциала использования существующих и новых правовых инструментов для борьбы с онлайн-угрозами. Это также подчеркивает растущую осведомленность правоохранительных органов о серьезном психологическом и репутационном ущербе, причиняемом злоупотреблением дипфейками. Офис окружного прокурора Манхэттена призвал потенциальных жертв обращаться, сигнализируя о приверженности поддержке пострадавших от этих нарушений.

Будущие перспективы

Хотя это изъятие является критически важным шагом, эксперты подчеркивают необходимость комплексной стратегии для решения проблемы всей экосистемы дипфейков. Оеммиг предполагает, что эффективные меры должны быть направлены на различные звенья, включая инструменты ИИ, используемые для создания, платформы для обнаружения и продвижения, хостинговую инфраструктуру и финансовые системы, которые монетизируют эту деятельность. Продолжающиеся расследования офиса окружного прокурора Манхэттена в отношении операторов и загрузчиков имеют жизненно важное значение для привлечения виновных к ответственности. Поскольку технологии ИИ продолжают развиваться, будут развиваться и методы создания и распространения дипфейков, что потребует постоянной адаптации правовых и технологических контрмер. Будущие усилия, вероятно, будут включать усиление межведомственного сотрудничества, международное партнерство и разработку передовых технологий обнаружения и предотвращения.

Заключение

Изъятие 12 веб-сайтов с порнографией с использованием дипфейков властями Нью-Йорка является важной вехой в борьбе с недобровольными интимными изображениями, созданными с помощью ИИ. Это демонстрирует решительные усилия по защите людей, особенно женщин и публичных фигур, от серьезных нарушений конфиденциальности и репутационного ущерба. Хотя проблемы в искоренении этой повсеместной формы злоупотребления остаются, эта акция создает важный прецедент и дает надежду на то, что скоординированные правоприменительные действия могут внести ощутимый вклад в защиту жертв и подрыв незаконной индустрии дипфейков.