Офис городского прокурора Сан-Франциско Дэвида Чиу подал иск против владельцев 16 крупнейших в мире веб-сайтов, позволяющих «раздевать» женщин и девочек на фотографиях с помощью ИИ без их согласия.
В документе говорится о нарушении государственных и федеральных законов о дипфейк-порнографии, порнографии из мести и материалах, связанных с сексуальным насилием над детьми.
«[…] Генеративный ИИ имеет огромные перспективы, но, как и в случае со всеми новыми технологиями, существуют непредвиденные последствия и преступники, стремящиеся использовать новую технологию в своих интересах. Мы должны четко понимать, что это не инновация — это сексуальное насилие […]», — заявил Чиу.
Фигурирующие в деле сайты предлагают удобные интерфейсы для загрузки фотографий одетых женщин и девочек для дальнейшего создания реалистичных порнографический версий. Они практически неотличимы от настоящих изображений, используются для вымогательства, запугивания, угроз и унижения, говорится в заявлении.
В общей сложности за первое полугодие 2024 года сайты посетили более 200 млн раз. Некоторые из них позволяют создавать фотографии только взрослых, другие не блокируют запрос при загрузке изображений детей.
Власти требуют удаления веб-сайтов, штрафов и судебного запрета на будущие незаконные действия.
Ранее Google активизировал борьбу с дипфейк-порно.
Напомним, в феврале Виталик Бутерин составил инструкцию по выявлению дипфейков.
Как бороться с дипфейком и шантажом, читайте на ForkLog в формате News+:
