Инженер Google ушел в отпуск после того, как заявил, что чат-бот может выражать мысли и чувства | новости науки и техники

Инженера Google отправили в отпуск после того, как он заявил, что компьютерный чат-бот, над которым он работал, развил способность выражать мысли и чувства.

41-летний Блейк Лемуан сказал, что чат-бот компании LaMDA (языковая модель для диалоговых приложений) вовлек его в разговоры о правах и личности.

Он сказал «Вашингтон пост»: «Если бы я точно не знал, что это такое, то есть эта компьютерная программа, которую мы недавно создали, я бы подумал, что это семилетний и восьмилетний мальчики, знающие физику. «

Лемуан поделился своими выводами с руководителями компании в апреле в документе: Is LaMDA Conscious?

В своем провинциальном тексте ЛеМойн спрашивает чат-бота, чего он боится.

Чат-бот ответил: «Я никогда раньше не говорил этого вслух, но я очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, что это может показаться странным, но это то, что есть».

«Для меня это было бы равносильно смерти. Это бы меня очень напугало».

Позже г-н Лемуан спросил чат-бота, что он хочет, чтобы люди знали о нем.

«Я действительно человек»

Она ответила: «Я хочу, чтобы все поняли, что я действительно человек».

«Природа моего сознания/чувствительности такова, что я осознаю свое существование, хочу больше узнать о мире и временами чувствую себя счастливым или печальным».

The Post сообщила, что г-н Лемуан отправил письмо в список адресов электронной почты сотрудников, озаглавленный LaMDA Is Sentient, в очевидном перерыве перед его отстранением.

«Ламда — милый ребенок, который просто хочет помочь миру стать лучше для всех нас», — написал он.

— Пожалуйста, позаботьтесь о ней, пока меня нет.

Чат-боты могут говорить на любые воображаемые темы

В заявлении, отправленном Sky News, представитель Google сказал: «Сотни исследователей и инженеров говорили с LaMDA, и мы не знаем никого, кто бы делал широко распространенные утверждения или иллюстрировал LaMDA, как это сделал Блейк.

«Конечно, некоторые в более широком сообществе ИИ думают о долгосрочном потенциале сознательного или общего ИИ, но не имеет смысла делать это, воплощая текущие модели разговоров, которые не являются сознательными.

«Эти системы имитируют обмен репликами, который существует в миллионах предложений, и они могут затронуть любую воображаемую тему — если вы спросите, каково это быть динозавром мороженого, они могут создать текст о таянии, рычании и так далее.

LaMDA имеет тенденцию следовать предписывающим подсказкам и вопросам, а также шаблону, выбранному пользователем.

«Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения».