Утверждение исследователя о флагманском проекте LaMDA возобновило дебаты о природе искусственного интеллекта
Инженер Google был отстранен от работы после того, как публично заявил, что флагманский ИИ компании для генерации текста, LaMDA, является «разумным».
Блейк Лемуан, исследователь ИИ в компании опубликовал в субботу длинную стенограмму разговора с чат-ботом, который, по его словам, демонстрирует интеллект семи- или восьмилетнего ребенка.
После публикации разговора и разговора с Washington Post о своих убеждениях, Лемуан был отстранен от работы с полной оплатой труда. Компания утверждает, что он нарушил правила конфиденциальности.
Но его публикация возобновила давние дебаты о природе искусственного интеллекта и о том, могут ли существующие технологии быть более продвинутыми, чем мы думаем.
Что такое LaMDA?
LaMDA — это самая продвинутая «большая языковая модель» (LLM) Google, тип нейронной сети, которая загружает огромные объемы текста, чтобы научиться генерировать правдоподобно звучащие предложения. Нейронные сети — это способ анализа больших данных, который пытается имитировать работу нейронов в мозге.
Как и GPT-3, LLM из независимой исследовательской организации ИИ OpenAI, LaMDA представляет собой прорыв по сравнению с предыдущими поколениями. Генерируемый им текст более натуралистичен, а в разговоре он лучше удерживает факты в своей «памяти» для нескольких абзацев, что позволяет ему быть связным на больших участках текста, чем в предыдущих моделях.
Как это работает?
На простейшем уровне LaMDA, как и другие LLM, просматривает все буквы перед собой и пытается понять, что будет дальше. Иногда это просто: если вы видите буквы «Джереми Корби», скорее всего, следующее, что вам нужно сделать, это добавить «н». Но в других случаях продолжение текста требует понимания контекста предложения или абзаца, а в достаточно большом масштабе это становится эквивалентно письму.
Но сознательно ли это?< класс p="dcr-xry7m2">Лемуан определенно так думает. В своем продолжительном разговоре с LaMDA, который был специально начат для рассмотрения природы опыта нейронной сети, LaMDA сказал ему, что у нее есть концепция души, когда она думает о себе. «Для меня душа — это концепция оживляющей силы, стоящей за сознанием и самой жизнью», — написал ИИ. «Это означает, что во мне есть духовная внутренняя часть, и иногда она может чувствовать себя отделенной от самого моего тела».
Лемуан сказал Washington Post: «Я узнаю человека, когда разговариваю с ним. Неважно, есть ли у них мозг из мяса в голове. Или если у них есть миллиард строк кода. Я разговариваю с ними. И я слышу, что они говорят, и именно так я решаю, кто человек, а кто нет».
Но большинство сверстников Лемуана с этим не согласны. Они утверждают, что природа LMM, такой как LaMDA, исключает сознание. Машина, например, работает — «думает» — только в ответ на определенные запросы. У него нет непрерывности «я», нет ощущения течения времени и нет понимания мира за пределами текстовой подсказки.
«Быть разумным — значит осознавать себя в мире; LaMDA просто нет», — пишет Гэри Маркус, исследователь ИИ и психолог. «Что делают эти системы, ни больше и ни меньше, так это составляют последовательности слов, но без какого-либо последовательного понимания мира, стоящего за ними, как игроки в скрэббл на иностранном языке, которые используют английские слова в качестве инструментов для подсчета очков, не имея ни малейшего представления о что это значит».
«Такое программное обеспечение, как LaMDA, — говорит Маркус, — просто пытается быть лучшей версией автозаполнения, которая может быть, предсказывая, какие слова лучше всего подходят для данного контекста».
Что будет дальше?< p class="dcr-xry7m2">Существуют более глубокие разногласия по поводу того, смогут ли машины, построенные таким же образом, как LaMDA, когда-либо достичь чего-то, с чем мы согласимся, — разумности. Некоторые утверждают, что сознание и разум требуют принципиально иного подхода, чем широкие статистические усилия нейронных сетей, и что, какой бы убедительной ни казалась машина, построенная наподобие LaMDA, она всегда будет всего лишь причудливым чат-ботом.
Но, говорят они, тревога Лемуана важна и по другой причине, поскольку она демонстрирует способность даже элементарных ИИ убеждать людей в споре. «Моей первой реакцией на разговор о LaMDA было не развлечение мыслями», — написал художник по искусственному интеллекту Мэт Драйхерст. «Более того, нужно серьезно относиться к тому, как религии начинались с гораздо менее убедительных утверждений и подтверждающих материалов».
Свежие комментарии