Один из «крестных отцов» искусственного интеллекта (ИИ) сказал, что чувствует себя «потерянным», поскольку эксперты предупреждают, что технология может привести к вымиранию человечества.
Профессор Йошуа Бенджио сказал Би-би-си, что все компании, производящие продукты ИИ, должны быть зарегистрированы, а те, кто занимается технологиями, должны пройти обучение этике.
Это произошло после того, как десятки экспертов написали свои имена в письме, организованном Центром безопасности искусственного интеллекта, предупредив, что технологии могут уничтожить человечество, и с рисками необходимо бороться так же срочно, как с пандемиями или ядерной войной.
Профессор Бенжио сказал: «Эмоционально это сложно для людей внутри (сектор ИИ).
«Вы можете сказать, что я чувствую себя потерянным. Но вы должны продолжать, и вы должны участвовать, обсуждать и поощрять других думать вместе с вами».
Старшие руководители таких компаний, как Google DeepMind и Anthropic, подписали письмо вместе с другим пионером ИИ, Джеффри Хинтоном, который уволился с работы в Google в начале этого месяца, заявив, что в чужих руках ИИ может быть использован во вред людям. человечества.
Эксперты уже предупреждали, что технология может лишить людей рабочих мест, но новое заявление предупреждает о более глубокой озабоченности, говоря, что ИИ может быть использован для разработки нового химического оружия и усиления воздушного боя.
Приложения ИИ, такие как Midjourney и ChatGPT, получили широкое распространение в социальных сетях: пользователи публикуют поддельные фотографии знаменитостей и политиков, а студенты используют ChatGPT и другие «модели изучения языка» для создания статей университетского уровня.
Но ИИ также может выполнять жизненно важные задачи, такие как алгоритмы, которые анализируют медицинские изображения, такие как рентгеновские снимки, сканирование и ультразвук, помогая врачам более точно и быстро выявлять и диагностировать такие заболевания, как рак и болезни сердца.
Мы выступили с заявлением об угрозе исчезновения искусственного интеллекта.
Среди подписантов:
Три лауреата премии Тьюринга
— Авторы стандартных учебников по AI/DL/RL
Генеральные директора и руководители компаний OpenAI, Microsoft, Google, Google DeepMind и Anthropic
— Гораздо болееhttps://t.co/mkJWhCRVwB— Центр безопасности ИИ (ai_risks) 30 мая 2023 г.
Профессор Бенжио сказал Би-би-си, что все компании, производящие мощные продукты ИИ, должны быть зарегистрированы.
«Правительства должны следить за тем, что они делают, они должны иметь возможность проверять это, и это минимум того, что мы делаем для любого другого сектора, такого как производство самолетов, автомобилей или медицины», — сказал он.
«Нам также нужны люди, которые близки к этим системам, чтобы получить какую-то сертификацию… Нам здесь нужно обучение этике. Между прочим, специалисты по информатике обычно этого не понимают».
Профессор Бенжио сказал о текущем состоянии ИИ: «Никогда не поздно совершенствоваться.
«Это похоже на изменение климата. Мы выбрасываем в атмосферу много углерода. И было бы лучше, если бы мы этого не делали, но давайте посмотрим, что мы можем сделать сейчас».
Эксперт Оксфордского университета Найджел Шадболт, глава Института открытых данных в Лондоне, сказал Би-би-си: «Сейчас вокруг нас огромное количество искусственного интеллекта, который стал почти повсеместным и незаметным. В наших телефонах есть программное обеспечение, которое распознает наш голос. , способность распознавать лица.
На самом деле, если подумать, мы понимаем, что при использовании только этих технологий возникают этические дилеммы. Я думаю, что отличие сейчас, с тем, что называется генеративным ИИ, такими вещами, как ChatGPT, заключается в том, что это система, которая может специализироваться от общих до множества конкретных задач, и инженерия в некотором смысле опережает науку.
«Мы не совсем знаем, как понять конечные последствия этой технологии, у всех нас есть общее понимание того, что нам нужно ответственно вводить инновации, что нам нужно думать о расовом измерении и ценностях, которые воплощают эти системы.
«Мы должны понимать, что ИИ — это огромная сила добра. Мы должны ценить не самое худшее, (но) мы сталкиваемся с множеством экзистенциальных проблем… Наши технологии не уступают другим вещам, которые могут дать сбой. нас, будь то климат или проблемы, другие, с которыми мы сталкиваемся.
«Но мне кажется, что если мы подумаем сейчас, заранее, если мы предпримем шаги, которые обсуждают такие люди, как Йошуа, это будет хорошим первым шагом, и это очень хороший первый шаг, что мы объединимся в этой области и поймем, что это мощная технология, у которой есть темная и светлая стороны, а также инь и ян, и нам нужно много голосов в этих дебатах».
«Создатель. Дружелюбный к хипстерам социальный медиа-голик. Интернет-фанат. Страстный фанатик алкоголя».
More Stories
Германия ужесточает законы об оружии и правила предоставления убежища после инцидента с ножевым ранением в Золингене | Германия
Скрипач группы признан сотрудником, а не подрядчиком в крупном трудовом постановлении — The Irish Times
Предупреждение об увеличении численности тараканов в домах этим летом и советы, как избежать заражения