Под знаменами с надписями «Солидарность» и «Мы вместе с жертвами» группа южнокорейских женщин-цифровых детективов прочесывает интернет в поисках бича — незаконной порнографии, созданной с помощью ИИ.
Южная Корея, родина ведущих мировых производителей смартфонов и чипов памяти, испытывает огромную национальную гордость за свои технологические достижения.
Но у этой истории успеха есть и темная сторона: по словам правозащитных групп, женщины страдают от повсеместных «цифровых сексуальных преступлений». Скрытые камеры снимают их в частной обстановке, чат-группы шантажируют их с целью получения откровенного контента и без согласия делятся так называемой «порноместью».
Созданные ИИ дипфейки — это новейшая угроза. Используя генеративные технологии и фотографию лица жертвы, преследователи могут создавать оскорбительные порнографические изображения своих целей.
В Национальном центре реагирования на цифровые сексуальные преступления, расположенном в просторном офисе в Сеуле, 23 женщины призваны переломить ситуацию: они прочесывают интернет и отправляют запросы на удаление контента, подкрепленные угрозами судебных исков.
В прошлом году группа удалила 318 000 видео и фотографий — дипфейков, материалов со скрытых камер и интимных изображений, распространенных без согласия, — от имени 10 600 человек, 75 процентов из которых были женщинами и девушками.
«Южная Корея действовала быстрее других, потому что не только цифровые сексуальные преступления стали здесь обычным явлением раньше, чем где-либо еще, но и женщины выступили против них так же быстро и решительно», — заявила AFP Ким Ми Сун, глава центра, основанного правительством.
- Поток дипфейков -
Центр открылся в 2018 году — в год, когда десятки тысяч женщин требовали действий через протесты против скрытых камер.
Штаб-квартира организации и 17 региональных центров также предлагают консультации, юридическую помощь и собирают улики для судебного преследования.
Одна 33-летняя женщина, попросившая называть ее только по фамилии Ким, рассказала, что в 2024 году дипфейки с ней были распространены в зашифрованных приложениях, недоступных для специалистов центра.
«Центр, возможно, не идеален, но он может кардинально изменить ситуацию для жертв, переживающих этот кошмар в одиночку», — сказала она.
Ким, военнослужащая, сказала, что почувствовала себя «исцеленной» благодаря их поддержке, включая финансовую помощь для получения диагноза травмы в качестве доказательства для суда.
«Это принесло мне огромное облегчение и утешение», — сказала она.
«Пройти всю юридическую процедуру в одиночку, страдая от травмы, было бы невозможно».
Цифровые сексуальные преступления оказываются изменчивой угрозой.
В 2020 году скандал с «Nth Room» (N-ной комнатой) вскрыл, как мужчины эксплуатировали десятки женщин и девушек, которых они называли «рабынями», в чатах для «сексуального вымогательства» с платным просмотром.
С момента основания национального центра реагирования из 46 человек сексуальные дипфейки стали новым трендом.
Согласно данным компании по интернет-безопасности Security Hero, с 2019 по 2023 год распространение дипфейков в мире выросло на 550 процентов.
Почти 98 процентов контента составляла порнография с изображением женщин, созданная ИИ, причем более половины жертв были из Южной Кореи, согласно исследованиям компании.
K-pop звезды являются основными целями, но обычные женщины все чаще попадают в эту сеть в стране, где, по данным полиции, на цифровые сексуальные преступления приходится 40 процентов всех сексуальных преступлений.
«С прошлого года мы видим все больше и больше дипфейков с обычными женщинами и девушками — изображения становятся гораздо более совершенными, чем раньше, а жертвы — все моложе и моложе», — рассказала специалист по удалению контента Ким Юн Хи.
Центр использует собственные инструменты ИИ, включая систему мониторинга, способную обнаруживать эксплуатационные материалы и сообщения, нацеленные на детей.
«Эта работа не из легких», — сказала 31-летняя сотрудница AFP. «Но она приносит настоящее удовлетворение, когда наши клиенты говорят, что наша услуга — настоящее спасение».
- «Прокладывая путь» -
Дипфейк-порнография в Южной Корее незаконна, за хранение грозит до трех лет тюрьмы, а создателям — до семи лет.
Наказания были ужесточены в 2024 году, когда была обнаружена серия дипфейк-чатов в Telegram, где делились созданными ИИ сексуализированными изображениями знакомых женщин, одноклассниц, коллег и родственниц, иногда созданными из фотографий, взятых из аккаунтов жертв в социальных сетях.
Клэр МакГлинн, профессор права Даремского университета в Британии и эксперт по сексуальному насилию с использованием изображений, заявила, что Сеул «прокладывает путь в предоставлении комплексных услуг поддержки и инвестировании в новейшие технологии, чтобы попытаться уменьшить вред».
Подход Южной Кореи является «примером для всего остального мира», — сказала она AFP.
Однако активисты предупреждают, что коренная причина проблемы — патриархальная культура, которая рассматривает женщин как сексуальные объекты, не заслуживающие достоинства.
Ким Ё Джин, глава некоммерческого Корейского центра реагирования на киберсексуальное насилие, заявила AFP, что проблема онлайн требует решения офлайн.
«Если мы не устраним эту фундаментальную причину, способствуя большему гендерному равенству в обществе в целом и усиливая образование по гендерному равенству в школах, никаких усилий по удалению контента не будет достаточно», — сказала она.
jhw/jts/cdl/lga/abs