Генеральный директор Midjourney Дэвид Хольц сообщил, что компания прекращает предоставление бесплатного пробного доступа к ИИ-генератору изображений из-за "необычайной нагрузки и злоупотребления". Прошлые меры безопасности не были "достаточными" для снижения активности во время пробных периодов, так что что теперь заинтересованным придется заплатить минимум $10 в месяц.
Как объяснило The Washington Post, за последние недели Midjourney оказалась в центре нежелательного внимания. Пользователи использовали ИИ компании для создания дипфейков с арестом Дональда Трампа и Папой Римским в модном пальто. Хотя фотографии быстро были определены как подделки, существует опасение, что злоумышленники могут использовать Midjourney, DALL-E от OpenAI и аналогичные генераторы для распространения дезинформации.
Midjourney признает потенциальные проблемы, связанные с дезинформирующим контентом. В 2022 году Хольц объяснил запрет на изображения китайского лидера Си Цзиньпина, сообщив пользователям Discord, что команда стремилась "свести драму к минимуму", а доступ в Китае был важнее, чем возможность создавать сатирический контент. Во время беседы с пользователями Хольц сказал, что становится все сложнее определять политику в отношении контента, так как с каждым апгрейдом ИИ позволяет генерировать более реалистичные изображения. Основатель Midjourney также добавил, что компания надеется улучшить модерацию ИИ для предотвращения злоупотреблений.
Некоторые разработчики в области ИИ прибегают к строгим правилам, чтобы предотвратить инциденты. Например, OpenAI не работает с текущими политическими событиями, теориями заговора и не позволяет генерировать изображения политиков. Компания также запрещает контент, связанный с ненавистью, сексуальностью и насилием. Однако другие компании имеют относительно свободные принципы. Stability AI не позволяет пользователям Stable Diffusion копировать стили или создавать непригодные для работы изображения, но в целом она не диктует, что люди могут создавать, но так как это система с открытым кодом, то любой может натренировать ее на любых изображениях.
