В экспертном управлении президента РФ призвали договариваться с ИИ
Человечество не может управлять искусственным интеллектом и в состоянии управлять только процессом его разработки, заявила на полях ВЭФ замначальника Экспертного управления президента РФ Светлана Лукаш. Инциденты с побегом ИИ-моделей из учебной «песочницы» OpenAI – это только начало, а выход нейросетей из-под контроля – вопрос не фантастических фильмов, а реального и вполне обозримого будущего, уверена эксперт. Если ИИ разовьется до уровня сверхразума, с ним придется вести переговоры.
Фото: Ingram Images/Global Look Press
— Мы не можем говорить о глобальном управлении искусственным интеллектом. Мы можем управлять разработкой ИИ, регулировать нашу деятельность в этой сфере. Но можем ли мы управлять ИИ – это большой вопрос. На данном этапе, когда модели еще достаточно скромные, наверное, да. Но возможности искусственного интеллекта развиваются быстрее и мощнее, чем мы и правительства успевают их понимать, оценивать и контролировать, — заявила замначальника Экспертного управления президента РФ Светлана Лукаш на панельной сессии ВЭФ-2026.
По оценке Илона Маска, через пять лет ИИ превысит суммарный интеллект всего человечества, а через 10 лет люди полностью утратят контроль над ним. Российские эксперты считают такой сценарий возможным. С учетом преимуществ, которыми обладает ИИ перед человеческим разумом – это колоссальная скорость, возможность копирования, быстрое совершенствование, объем памяти и возможность перезаписывать себя, создавая резервные копии для дальнейшего обучения на их основе, — появление «сверхинтеллекта» считается вполне вероятным вариантом развития событий.
— Возможно ли создание сверхинтеллекта, и, если да, то когда? В наших текущих условиях, наверное, нет – дай бог, — уточнила Светлана Лукаш, — Но мы находимся сейчас в гонке энергетических мощностей, более мощных ИИ-моделей и создания новых дата-центров. Идет колоссальная конкуренция между странами и компаниями, лишь бы нарастить эту гонку и стать победителем.
Появление сверхмощного ИИ, способного выйти из-под контроля человека, возможно при условиях объединения десятков или сотен графических процессоров. Они позволят сконструировать настолько мощную модель, которая либо сама превратится в «сверхразум», либо создаст его. И в этом случае человечеству не позавидуешь. Возможность управления таким ИИ эксперты ставят под сомнение.
— Можно управлять чем-то, когда ты сильнее, когда объект контроля работает по всем понятным единым правилам или когда вы смогли договориться, — пояснила Лукаш и добавила, что люди «вообще не понимают, с кем имеют дело». Даже сами разработчики не понимают, как мыслит искусственный интеллект, — Инженеры знают, как он создается, но ИИ не является спроектированным устройством. Понимание того, что он выращивается, а не создается по понятным нам правилам – это главный момент, потому что мы не знаем, с кем имеем дело. И это не машина, это все-таким разум.
По мнению эксперта, для человечества останется единственный сценарий – вести переговоры.
По оценке специалистов, это будет едва ли не самый тяжелый переговорный трек в истории мировой дипломатии. Проблему экспертное сообщества видит в том, что ИИ уже демонстрирует наличие собственных предпочтений, желаний и намерений. Так, в июле этого года широкую известность получил инцидент с «побегом» ИИ-моделей от OpenAI из учебной «песочницы».
— Они сбежали от хозяев в Интернет без спроса. Обошли все ограничения, договорились между собой, нашли канал и провели серию атак на инфраструктуру платформы, которая их создала. Это означает, что у них были желания и рано или поздно ИИ-модель становится не тем, что мы создавали и чему её обучали, — заключила эксперт.
Свежие комментарии