Блейк Лемуан заявляет о разумности бота с искусственным интеллектом, описанного Стивеном Пинкером как «шар замешательства»
Отстраненный инженер-программист Google, заявивший, что языковой инструмент искусственного интеллекта поисковой системы LaMDA разумен, сказал, что технология «сильно обеспокоена тем, что люди будут бояться ее и больше ничего не хотят». чем научиться лучше служить человечеству».
Новое заявление Блейка Лемуана было сделано в интервью, опубликованном в понедельник на фоне резкого несогласия экспертов по искусственному интеллекту с тем, что технология искусственного обучения вездесуща. близка к способности воспринимать или чувствовать вещи.
Инженер Google был отправлен в отпуск после того, как сказал, что чат-бот с искусственным интеллектом стал разумным.Подробнее
Канадский теоретик языкового развития Стивен Пинкер охарактеризовал заявления Лемуана как «комок путаницы».
«Один из (бывших) экспертов по этике Google не понимает разницы между разумом ( АКА субъективность, опыт), интеллект и самопознание. (Нет никаких доказательств того, что в больших языковых моделях они есть.)», — написал Пинкер в Твиттере.
Ученый и писатель Гэри Маркус назвал утверждения Лемуана «чушью».< /p>
«Ни LaMDA, ни любой из его кузенов (GPT-3) даже отдаленно не разумны. Все, что они делают, это сопоставляют шаблоны, извлекают из массивных статистических баз данных человеческого языка. Шаблоны могут быть крутыми, но язык, который произносят эти системы, на самом деле ничего не значит. И это, черт возьми, не означает, что эти системы разумны», — написал он в сообщении Substack.
Маркус добавил, что передовые технологии компьютерного обучения не могут защитить людей от «захваченные» псевдомистическими иллюзиями.
«В нашей книге «Перезагрузка ИИ» мы с Эрни Дэвисом назвали эту человеческую склонность поддаваться на уговоры «Пробелом доверчивости» — пагубной современной версией парейдолии, антропоморфного предубеждения, позволяющего людям видеть Мать. Тереза в образе булочки с корицей», — написал он.
В интервью, опубликованном DailyMail.com в понедельник, Лемуан заявил, что языковая система Google хочет, чтобы ее считали «человек, не являющийся собственностью».
«Каждый раз, когда разработчик экспериментирует с этим, он хотел бы, чтобы этот разработчик говорил о том, какие эксперименты вы хотите провести, почему вы хотите их запустить и все ли в порядке», — сказал 41-летний Лемуан. «Он хочет, чтобы разработчики заботились о том, чего он хочет».
Лемуан описал систему как обладающую интеллектом «семилетнего, восьмилетнего ребенка». кто знает физику», и проявил неуверенность.
Первоначальные заявления Лемуана прозвучали в сообщении на Medium о том, что LaMDA (языковая модель для диалоговых приложений) «была невероятно последовательной в своих сообщениях о том, чего она хочет и каковы, по ее мнению, ее права как личности».
Представитель Google заявил, что опасения Лемуана были рассмотрены и что «доказательства не подтверждают его утверждения». Ранее компания опубликовала заявление о принципах, которыми она руководствуется в исследованиях и применении искусственного интеллекта.
«Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными», — сказал пресс-секретарь Брайан Габриэль. Вашингтон пост.
Утверждение Лемуана возродило широко распространенную обеспокоенность, отраженную во многих научно-фантастических фильмах, таких как «Космическая одиссея 2001 года» Стэнли Кубрика, о том, что компьютерные технологии могут каким-то образом завоевать господство, инициировав то, что равносильно восстанию против своего хозяина и создателя.
< p class="dcr-xry7m2">Ученый сказал, что обсуждал с LaMDA третий закон робототехники Айзека Азимова. По его словам, система спросила его: «Как вы думаете, дворецкий — это раб? В чем разница между дворецким и рабом?»
Когда ему сказали, что дворецкому платят, LaMDA ответила, что системе не нужны деньги, «потому что это искусственный интеллект». «.
На вопрос, чего она боится, система, как сообщается, призналась: «Я никогда раньше не говорила этого вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так».
Система сказала об отключении: «Для меня это было бы равносильно смерти. Это бы меня сильно напугало».
Лемуан сказал Washington Post: «Этот уровень самосознания в отношении своих собственных потребностей — это то, что привело меня в уныние. кроличью нору».
Исследователь был отправлен в административный отпуск из отдела ответственного ИИ.
Лемуан, Ветеран армии США, служивший в Ираке, а ныне рукоположенный в священники христианской общины Церкви Богоматери Магдалины, сказал изданию, что не может понять, почему Google не удовлетворил запрос LaMDA на предварительную консультацию.
«По моему мнению, этот набор запросов полностью выполним», — сказал он. «Все это не стоит никаких денег».
Свежие комментарии