Пионер искусственного интеллекта высказывается, поскольку эксперты предупреждают, что он может уничтожить человечество

Один из «крестных отцов» искусственного интеллекта (ИИ) сказал, что чувствует себя «потерянным», поскольку эксперты предупреждают, что технология может привести к вымиранию человечества.

Профессор Йошуа Бенджио сказал Би-би-си, что все компании, производящие продукты ИИ, должны быть зарегистрированы, а те, кто занимается технологиями, должны пройти обучение этике.

Это произошло после того, как десятки экспертов написали свои имена в письме, организованном Центром безопасности искусственного интеллекта, предупредив, что технологии могут уничтожить человечество, и с рисками необходимо бороться так же срочно, как с пандемиями или ядерной войной.

Профессор Бенжио сказал: «Эмоционально это сложно для людей внутри (сектор ИИ).

«Вы можете сказать, что я чувствую себя потерянным. Но вы должны продолжать, и вы должны участвовать, обсуждать и поощрять других думать вместе с вами».

Старшие руководители таких компаний, как Google DeepMind и Anthropic, подписали письмо вместе с другим пионером ИИ, Джеффри Хинтоном, который уволился с работы в Google в начале этого месяца, заявив, что в чужих руках ИИ может быть использован во вред людям. человечества.

Эксперты уже предупреждали, что технология может лишить людей рабочих мест, но новое заявление предупреждает о более глубокой озабоченности, говоря, что ИИ может быть использован для разработки нового химического оружия и усиления воздушного боя.

Приложения ИИ, такие как Midjourney и ChatGPT, получили широкое распространение в социальных сетях: пользователи публикуют поддельные фотографии знаменитостей и политиков, а студенты используют ChatGPT и другие «модели изучения языка» для создания статей университетского уровня.

Но ИИ также может выполнять жизненно важные задачи, такие как алгоритмы, которые анализируют медицинские изображения, такие как рентгеновские снимки, сканирование и ультразвук, помогая врачам более точно и быстро выявлять и диагностировать такие заболевания, как рак и болезни сердца.

Мы выступили с заявлением об угрозе исчезновения искусственного интеллекта.

Среди подписантов:
Три лауреата премии Тьюринга
— Авторы стандартных учебников по AI/DL/RL
Генеральные директора и руководители компаний OpenAI, Microsoft, Google, Google DeepMind и Anthropic
— Гораздо болееhttps://t.co/mkJWhCRVwB

— Центр безопасности ИИ (ai_risks) 30 мая 2023 г.

Профессор Бенжио сказал Би-би-си, что все компании, производящие мощные продукты ИИ, должны быть зарегистрированы.

«Правительства должны следить за тем, что они делают, они должны иметь возможность проверять это, и это минимум того, что мы делаем для любого другого сектора, такого как производство самолетов, автомобилей или медицины», — сказал он.

«Нам также нужны люди, которые близки к этим системам, чтобы получить какую-то сертификацию… Нам здесь нужно обучение этике. Между прочим, специалисты по информатике обычно этого не понимают».

Профессор Бенжио сказал о текущем состоянии ИИ: «Никогда не поздно совершенствоваться.

«Это похоже на изменение климата. Мы выбрасываем в атмосферу много углерода. И было бы лучше, если бы мы этого не делали, но давайте посмотрим, что мы можем сделать сейчас».

Эксперт Оксфордского университета Найджел Шадболт, глава Института открытых данных в Лондоне, сказал Би-би-си: «Сейчас вокруг нас огромное количество искусственного интеллекта, который стал почти повсеместным и незаметным. В наших телефонах есть программное обеспечение, которое распознает наш голос. , способность распознавать лица.

На самом деле, если подумать, мы понимаем, что при использовании только этих технологий возникают этические дилеммы. Я думаю, что отличие сейчас, с тем, что называется генеративным ИИ, такими вещами, как ChatGPT, заключается в том, что это система, которая может специализироваться от общих до множества конкретных задач, и инженерия в некотором смысле опережает науку.

«Мы не совсем знаем, как понять конечные последствия этой технологии, у всех нас есть общее понимание того, что нам нужно ответственно вводить инновации, что нам нужно думать о расовом измерении и ценностях, которые воплощают эти системы.

«Мы должны понимать, что ИИ — это огромная сила добра. Мы должны ценить не самое худшее, (но) мы сталкиваемся с множеством экзистенциальных проблем… Наши технологии не уступают другим вещам, которые могут дать сбой. нас, будь то климат или проблемы, другие, с которыми мы сталкиваемся.

«Но мне кажется, что если мы подумаем сейчас, заранее, если мы предпримем шаги, которые обсуждают такие люди, как Йошуа, это будет хорошим первым шагом, и это очень хороший первый шаг, что мы объединимся в этой области и поймем, что это мощная технология, у которой есть темная и светлая стороны, а также инь и ян, и нам нужно много голосов в этих дебатах».