Новый инструмент позволяет художникам «отравлять» свои произведения искусства, чтобы отпугнуть компании, занимающиеся искусственным интеллектом.

Художники, которые хотят поделиться своими работами, часто сталкиваются с трудным выбором: либо хранить их в автономном режиме, либо публиковать в социальных сетях, рискуя использовать их для обучения генераторов изображений искусственного интеллекта, нуждающихся в данных.

Но вскоре новый инструмент, возможно, сможет помочь художникам удержать компании, занимающиеся искусственным интеллектом, от использования их произведений без разрешения.

Он называется «Паслен» и был разработан командой исследователей из Чикагского университета. По данным Verge, он «отравляет» творческие способности художника, тонко изменяя пиксели изображения, так что модели искусственного интеллекта не могут точно определить, что изображено на изображении. Обзор технологий Массачусетского технологического института.

Хотя человеческий глаз не может обнаружить эти небольшие изменения, они предназначены для того, чтобы модель машинного обучения неправильно помечала изображение как нечто иное, чем оно есть. Поскольку эти модели ИИ полагаются на точные данные, этот процесс «отравления» сделает изображение бесполезным для учебных целей.

Если достаточное количество этих «отравленных» изображений будет извлечено из Интернета и использовано для обучения генератора изображений ИИ, сама модель ИИ может оказаться не в состоянии создавать точные изображения.

Например, исследователи передали Stable Diffusion, генератор изображений искусственного интеллекта, модели искусственного интеллекта, которая сгенерировала 50 «токсичных» изображений собак, а затем попросили ее создать новые изображения собак. По данным MIT Technology Review, на созданных изображениях были показаны животные со слишком большим количеством конечностей или мультяшными мордами, которые чем-то напоминали собак.

После того, как исследователи предоставили Stable Diffusion 300 «токсичные» изображения собак, в конечном итоге они начали создавать изображения кошек. Stable Diffusion не ответила на запрос CNBC Make It о комментариях.

На первый взгляд кажется, что генераторы искусств искусственного интеллекта создают изображения из ничего, основываясь на любой подсказке, которую им кто-то дает.

Но помогать этим генеративным моделям искусственного интеллекта создавать реалистичные изображения розового жирафа или подводного замка — это не волшебство, а обучающие данные, и многое другое.

Компании, занимающиеся искусственным интеллектом, обучают свои модели на огромных наборах данных, помогая моделям определить, какие изображения связаны со словами. Чтобы модель ИИ правильно создавала изображение розового жирафа, ее необходимо научить правильно распознавать изображения жирафов и розовый цвет.

Большая часть данных, используемых для обучения многих генеративных систем искусственного интеллекта, извлекается из Интернета. Хотя в Соединенных Штатах компаниям разрешено собирать данные с общедоступных веб-сайтов и использовать их в различных целях, ситуация усложняется, когда дело касается произведений искусства, поскольку авторские права на свои произведения обычно принадлежат художникам, а иногда… Они не Я не хочу, чтобы их работы использовались для обучения модели ИИ.

Хотя художники могут подписаться на «списки отказа» или «директивы о запрете», часто бывает трудно заставить компании соблюдать эти директивы. Глазурь в Университете ЧикагоОб этом сообщила команда исследователей, создавших Nightshade, в теме X, ранее известной как Twitter, от 24 октября.

«Ни один из этих механизмов не является обязательным или даже проверяемым», — заявили они в теме от 24 октября. «Компании показали, что могут слепо игнорировать отказы». «Но даже если бы они согласились и действовали по-другому, никто не сможет это проверить или доказать (по крайней мере, сегодня). Эти инструменты беззубы», — добавил он.

В конечном итоге исследователи надеются, что Nightshade поможет художникам защитить свое искусство.

Исследователи еще не представили публике свой инструмент Nightshade, но представили свою работу на рецензирование и надеются сделать ее доступной в ближайшее время, сообщили X в Glaze из UChicago.

Не пропустите: хотите стать умнее и успешнее в своих деньгах, работе и жизни? Подпишитесь на нашу новую рассылку!

получает Бесплатное руководство Уоррена Баффета по инвестированию на CNBCв котором собраны лучшие советы миллиардера для обычных инвесторов, что можно и чего нельзя делать, а также три ключевых принципа инвестирования в ясном и простом руководстве.

погашение: Искусственный интеллект — последнее модное словечко в сфере технологий, но прежде чем инвестировать, познакомьтесь с этими четырьмя терминами.