Новая демо-версия Meta AI, написавшая расистскую и неточную научную литературу, изъята

Во вторник был представлен Meta AI. Показывать Galactica, большая языковая парадигма, предназначенная для «хранения, объединения и анализа научных знаний». Хотя это было предназначено для ускорения написания научной литературы, враждебные пользователи, проводившие тесты, также сочли это возможным. Генерировать реалистичную чушь. Через несколько дней после Моральная критикаMeta отключила демонстрацию. отчеты Обзор технологий Массачусетского технологического института.

Языковые большие модели (LLM), такие как OpenAI ГПТ-3Научитесь писать текст, изучая миллионы примеров и понимая статистические отношения между словами. В результате они могут составлять документы, которые выглядят убедительно, но этот бизнес может быть полный лжи и потенциально вредные стереотипы. Некоторые критики называют LLM «случайные попугаиЗа умение убедительно произносить текст, не понимая его смысла.

Войдите в Galactica, LLM, целью которой является написание научной литературы. Его авторы обучили Galactica «большому, тщательно отобранному массиву знаний о человеке», включая более 48 миллионов статей, учебников, конспектов лекций, научных веб-сайтов и энциклопедий. согласно с Галактика бумагаИсследователи мета-ИИ считают, что эти якобы высококачественные данные приведут к более качественному результату.

Со вторника посетители Галактика веб-сайт Подсказки могут быть написаны для создания документов, таких как обзоры литературы, вики-статьи, конспекты лекций и ответы на вопросы, в соответствии с примерами, представленными на веб-сайте. Сайт представил модель как «новый интерфейс для доступа и управления тем, что мы знаем о вселенной».

Хотя некоторые нашли демо многообещающий И полезныйДругие вскоре обнаружили, что любой может написать Расист или же потенциально оскорбительные заявления, так же легко создавая авторитетный контент на эти темы. Например, кто-то к этому привык автор Вики-запись о вымышленной исследовательской статье под названием «Преимущества употребления битого стекла».

Даже если продукция «Галактики» не оскорбляла социальные нормы, модель могла атаковать общеизвестные научные факты. неточность Например, неправильные даты или названия животных, которые требуют глубоких знаний предмета охоты.

В результате Мета вытащил Галактика Шоу Четверг. Далее главный специалист по искусственному интеллекту в Meta Yann LeCun чирикать«,» Демо-версия Galactica в настоящее время отключена. Больше нельзя получать удовольствие от случайного неправильного использования. Вы счастливы?

Этот эпизод указывает на общую этическую дилемму с ИИ: когда дело доходит до потенциально вредных генеративных моделей, должна ли широкая публика использовать их ответственно или издатели моделей должны предотвращать злоупотребления?

Там, где отраслевая практика находится между этими двумя крайностями, вероятно, будет отличаться культура и степень зрелости моделей глубокого обучения. в конце концов, государственное регулирование Это может сыграть большую роль в формировании ответа.