- Иск против сайтов за создание deepfake-изображений
- Масштабы деятельности сайтов
- Создание deepfake-изображений известных личностей и детей
Сан-Франциско сделал важное заявление, подав иск против 16 сайтов, которые создавали и распространяли ИИ-сгенерированные обнаженные изображения реальных взрослых и даже несовершеннолетних.
Иск против сайтов за создание deepfake-изображений
По словам городского прокурора Сан-Франциско Дэвида Чиу, эти сайты распространяли deepfake-изображения без согласия реальных взрослых и несовершеннолетних. Владелец и операторы сайтов нарушают законы штата и федеральные законы, запрещающие deepfake порнографию, порнографию мести и детскую порнографию.
Масштабы деятельности сайтов
По данным газетного отчета, компании и лица, стоящие за этими сайтами, базируются в Калифорнии, Нью-Мексико, Великобритании и Эстонии. В первую половину текущего года эти 16 сайтов суммарно собрали 200 миллионов посещений. Некоторые сайты позволяли бесплатно создавать обнаженные изображения, а затем взимали плату за дальнейшие изображения, принимая криптовалюту и кредитные карты. По словам государственного прокурора, модели ИИ этих сайтов обучались на реальном хардкор-порно и изображениях детского насилия, чтобы создавать deepfake-изображения.
Создание deepfake-изображений известных личностей и детей
Алгоритмы сайтов создавали реалистичные образы частных частей тела за считанные секунды. Эти ИИ-модели также генерировали реалистичные обнаженные изображения знаменитостей, таких как Тейлор Свифт, и учениц средней школы. В некоторых случаях эти изображения использовались для унижения, преследований и даже вымогательства. Одной из пострадавших была мать, Сара Эйзенберг, которая заявила: «*Ты можешь быть насколько угодно опытен в интернете и социальных сетях и научить своих детей защите в сети, но это не может защитить их от кого-то, использующего эти сайты для действительно ужасных, вредоносных вещей.*»
Чиу также отметил, что практически невозможно отследить источник изображений после их распространения. Иск направлен на закрытие этих сайтов и полное запрещение создания ИИ-сгенерированных обнаженных изображений в будущем. Хотя ИИ имеет свои положительные стороны, проблема deepfake порнографии является одной из его темных сторон.
