В письме, подписанном более чем 1000 человек, содержится предупреждение о потенциальных рисках для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений.
Илон Маск и группа экспертов по ИИ призвали прекратить обучение мощных систем ИИ из-за потенциальных рисков для общества и человечества.
В письме, подготовленном некоммерческой организацией Future of Life Institute и подписанном более чем 1000 человек, содержится предупреждение о потенциальных рисках для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений.
В письме предупреждается, что «системы искусственного интеллекта с человеческим конкурентным интеллектом могут представлять серьезную опасность для общества и человечества».
«Сильные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными и что их риски будут управляемыми».
Он призвал на шесть месяцев остановить «серьезную гонку» по разработке систем, более мощных, чем OpenAI. Недавно запущенный GPT-4.
Если такой мораторий не может быть введен быстро, в письме говорится, что правительства должны вмешаться и объявить мораторий.
«Лаборатория искусственного интеллекта и независимые эксперты должны использовать эту паузу для разработки и внедрения набора совместных протоколов безопасности для проектирования и разработки передового ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами», — говорится в письме.
«Эти протоколы должны обеспечивать безопасность систем, которых они придерживаются, вне всякого разумного сомнения».
Читать далее:
Некоторые пользователи Twitter начинают пропускать синие галочки со следующего месяца
Ведущий Sky News теперь может читать вам наши статьи — вот как
Письмо также подписали соучредитель Apple Стив Возняк, Джошуа Бениго, которого часто называют одним из «крестных отцов искусственного интеллекта», и Стюарт Рассел, руководитель исследований в этой области, а также исследователи DeepMind, принадлежащей Alphabet. .
По данным Реестра прозрачности ЕС, Институт будущего жизни финансируется в основном Фондом Маска, лондонской группой эффективного альтруизма Founders Pledge и Фондом сообщества Силиконовой долины.
Маск открыто высказывался о своих опасениях по поводу ИИ. Его автопроизводитель Tesla использует искусственный интеллект для своей системы автопилота.
С момента своего выпуска в прошлом году поддерживаемый Microsoft OpenAI ChatGPT призвал конкурентов ускорить разработку аналогичных больших языковых моделей и призвал компании интегрировать генеративные модели ИИ в свои продукты.
Великобритания представляет предложения по «легкому» регулированию ИИ
Об этом сообщает правительство Великобритании. Предложения по «облегченной» нормативно-правовой базе об искусственном интеллекте.
Подход правительства, изложенный в программном документе, заключается в разделении ответственности за управление ИИ между регуляторами прав человека, здоровья и безопасности и конкуренции, а не созданием нового органа, занимающегося этой технологией.
Между тем, ранее на этой неделе Европол присоединился к целому ряду этических и юридических опасений по поводу передового искусственного интеллекта, такого как ChatGPT, предупредив о возможности злоупотребления системой при попытках фишинга, дезинформации и киберпреступности.
«Главный евангелист пива. Первопроходец в области кофе на протяжении всей жизни. Сертифицированный защитник Твиттера. Интернетоголик. Практикующий путешественник».
More Stories
Ирландский инвестор закрывает сделку на сумму 35 миллионов евро по покупке офиса Meta в районе Доклендс в Дублине.
Аэропорт Дублина предупреждает пассажиров об изменениях в правилах безопасности с воскресенья, 1 сентября.
Братья Келлехер представляют проект аренды квартир со скидкой в Блэкпуле