Создатель ИИ приостанавливает сервис за «злоупотребление» дипфейками

Исследовательская лаборатория Midjourney приостановила бесплатные пробные версии своего программного обеспечения для создания изображений после того, как пользователи занимались фальсификацией фактов, включая арест бывшего президента США Дональда Трампа и Папы Франциска в пуховике.

Medjourney ответила на сегодняшнюю просьбу о судебном разбирательстве письмом, в котором говорилось, что оно не может быть предоставлено, и повторила попытку в другой день.

Изображения, созданные с помощью платформы ИИ, особенно изображения Трампа и Папы, которые стали вирусными, пролили свет на лабораторию в Сан-Франциско.

«Из-за сочетания исключительного спроса и экспериментального злоупотребления мы временно отключаем бесплатные пробные версии до тех пор, пока в систему не будут внесены следующие улучшения», — сказал основатель Midjourney Дэвид Холлс в сообщении на канале Discord компании.

Сервис создает реалистичные изображения на основе письменных запросов, отправленных пользователями.

Он был запущен в тестовом режиме в середине 2022 года, и независимые тестировщики постоянно обновляют программное обеспечение.

Пользователи похвалили недавно выпущенную версию Midjourney за улучшенную реалистичность получаемых изображений.

Помимо ограничения новых бесплатных пробных версий, Midjourney запретила использование определенных слов, таких как «арестован», для стимулирования создания изображений.

Сегодня Medjourney отказал Agence France-Presse в просьбе предоставить фотографию бывшего президента США, арестованного перед Башней Трампа в Нью-Йорке.

В письме Midjourney говорится, что «слово« задержанный »запрещено».

Обход этого фильтра с целью нарушения наших правил может привести к аннулированию вашего доступа.

Читать далее
Почему так легко попасться на поддельные изображения ИИ

Миллиардер и владелец Twitter Илон Маск и группа экспертов вчера призвали приостановить разработку мощных систем искусственного интеллекта, чтобы дать время на обеспечение их безопасности.

Открытое письмо, подписанное на данный момент более чем 1000 человек, включая г-на Маска и соучредителя Apple Стива Возняка, было вызвано запуском поддерживаемой Microsoft платформы искусственного интеллекта OpenAI GPT-4.

Канадский пионер искусственного интеллекта Джошуа Бенджио, подписавший письмо, предупредил во время виртуальной пресс-конференции в Монреале, что «общество не готово» к этому мощному инструменту и его потенциальному неправильному использованию.

«Давайте замедлимся. Давайте позаботимся о том, чтобы мы разработали более качественные ограждения», — сказал он.