Компания-разработчик Midjourney закрыла бесплатный доступ к своей нейросети, позволяющей генерировать изображения по текстовому описанию. Теперь остаётся только платный тариф за 10 долларов в месяц.
Генеральный директор Midjourney Дэвид Хольц отметил в Discord, что компания сворачивает бесплатную пробную версию из-за «чрезвычайно высокого спроса и злоупотреблений». По словам Хольца, новые меры безопасности оказались недостаточными для предотвращения некорректного использования ИИ.
Как поясняет The Washington Post, в последние недели Midjourney оказалась в центре нежелательного внимания. Пользователи многие начали использовать ИИ для создания дипфейков с арестом Дональда Трампа и папой римским Франциском в модном пуховике. И хотя изображения были быстро идентифицированы как поддельные, есть опасения, что злоумышленники могут использовать Midjourney и аналогичные генераторы для распространения дезинформации.
Midjourney признаёт проблемы с установлением политик в отношении контента. В 2022 году Хольц оправдал запрет на изображения китайского лидера Си Цзиньпина, заявив, что его команда хочет лишь «минимизировать драму», и что любой доступ в Китае важнее, чем разрешение сатирического контента.
Разработчики аналогичных решений уже прибегли к строгим правилам, чтобы предотвратить подобные инциденты. OpenAI, например, блокирует любые изображения текущих политических событий, теорий заговора и политиков. Компания также запрещает контент сексуального характера и изображение насилия.
Сейчас разработчики Midjourney надеются улучшить модерацию, чтобы тщательнее выявлять злоупотребления.