Администрация нейросети Midjourney приняла решение отключить возможность бесплатного пробного использования генератора изображений, из-за чрезмерного злоупотребления им. Системы проверки и ограничений оказались бессильными, и пользователи быстро обучились обманывать искусственный интеллект. Несмотря на это, генератор изображений продолжит работать, но только авторизованные пользователи смогут им пользоваться, и они будут нести ответственность за использование этого сервиса.
Цена использования Midjourney всего 10 долларов в месяц, поэтому владельцы нейросети не испытают проблем из-за этой меры. В прошлом году Midjourney стал заложником ситуации, когда большинство пользователей использовали этот генератор изображений в корыстных или незаконных целях. Вместо создания художественных картин, Midjourney использовали для создания политической сатиры и карикатур. Администрация Midjourney уже вводила ограничения на любые изображения председателя КНР, чтобы не потерять китайский рынок.
Схожие методики применяются и другими моделями искусственного интеллекта, например, у OpenAI есть строгие ограничения на контент, связанный с политикой, сексом, насилием, теориями заговора и негативом. Однако это не помогает, так как пользователи находят способы обходить эти ограничения. Еще одной проблемой стало широкое нарушение авторских прав. Нейросеть может быстро и точно копировать полотна известных художников, а также добавлять новые элементы, чтобы сделать изображение уникальным. Это удобный инструмент для кражи чужого контента, дизайна или иных наработок. Достаточно предоставить нейросети исходную картинку, и она сделает то, что нужно злоумышленнику.