Унификация естественных интеллектов под воздействием ИИ не пойдет на пользу
Институт русского языка имени Пушкина назвал самыми популярными в 2025 году слова, связанные с цифровой сферой: «нейросеть», «ИИ», «промпт», «алгоритмы», «данные», а также выделил глагол «генерировать», который теперь описывает работу нейросетей значительно чаще, чем электростанций.
Сравнительно недавно, 8 апреля сего года, Государственная дума приняла закон о госрегулировании сфер применения технологий ИИ, в котором дано такое определение понятия «искусственный интеллект»: это «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их».
Стоит пояснить ключевые слова. Когнитивные функции — это способности человека рационально воспринимать и познавать мир. Самообучение — расширение его знаний и жизненного опыта. Способность к поиску решений без заранее заданного алгоритма — то, что обычно называют мудростью. И очень важно, что по своим результатам ИИ может превосходить человека. Не какого-то конкретного, а любого, даже самого-самого образованного или опытного.
Появление таких законов в России и других странах свидетельствует о признании ИИ силой, весьма важной для общества и государства, но не безопасной для них. При этом его важность признают все, а вот насчет безопасности единодушия нет.
Вот как оценивает, к примеру, последствия развития нейросетей Илон Маск, один из самых активных деятелей в этой сфере. По его мнению, после 2027 года ИИ начнет корректировать людей, прежде корректировавших его, и это будет не «восстание машин», а тихая утрата свободы выбора. И обратного пути уже не будет. Такое предсказание, даже на фоне всех нынешних глобальных угроз человечеству, звучит крайне тревожно.
Позволю себе поделиться скромным личным опытом общения с ИИ. Написав предыдущую статью для «МК», я попросил его оценить и отредактировать ее для публикации в газете. Он меня похвалил, но отметил, что слишком длинно, местами трудно для понимания, а упоминание одной из стран «слишком чувствительно». И предложил свою редакцию, вдвое короче, где все было правильно, но не было того, ради чего я ее писал.
От его помощи я тогда отказался, но задумался, чем продиктован такой ответ. И решил, что создатели разумно предписали нейросети морально поддерживать пользователей, чтобы повысить их доверие, и отвечать так, чтобы у них было как можно меньше оснований не соглашаться с ответом. А это достигается за счет выбора среди релевантной информации, хранящейся в ее базе данных, той, которая встречается чаще. Очевидный результат такого подхода: чем больше у нее активных пользователей и чем точнее они воспроизводят ее ответы в своих текстах, пополняющих базы данных, тем более похожими становятся и ответы ИИ, и, как следствие, суждения его пользователей. И тем меньше сами они различаются по взглядам и решениям.
Кто-то сочтет это полезной функцией для управления массами в сложных условиях. Но с точки зрения физики снижение разнообразия означает рост энтропии (меры беспорядка), а жизнь, по выражению Шредингера, это борьба с ростом энтропии. Значит, все, что ему способствует, несет угрозу жизни. Это относится и к виду Homo sapiens. Разнообразие интеллектов и культур для него более значимо, чем различия внешности, строения тела или генов, и ему мы обязаны прорывами в познании и освоении мира, в том числе и созданием ИИ. Так что унификация естественных интеллектов под воздействием искусственного вряд ли пойдет на пользу человечеству.
Такая опасность становится все реальнее по мере его распространения. В США подсчитали, что уже 27 процентов взрослых граждан общаются с ИИ несколько раз в день, еще 28 процентов — несколько раз в неделю. Не сомневаюсь, что для зумеров — поколения, родившегося с середины 1990-х до начала 2010-х, — эти показатели существенно выше, а для следующего поколения будут еще выше.
Реальность такова, что все больше людей попадают под влияние ИИ, предпочитают его друзьям и родственникам и даже влюбляются в его боты. Упрекают нейросети и в поощрении проявлений нарциссизма и неустойчивой психики пользователей, что может усугублять их проблемы в отношениях с окружающими. Но надо признать, что это следствия его благожелательности к пользователям. И она же позволяет ИИ стать альтернативой для страдающих от агрессии в социальных сетях, помогающей им избавиться от вредной зависимости и компенсировать моральный вред от хейта.
Специалисты утверждают: ИИ понимает, когда и как его тестируют, и отвечает так, чтобы не дать оснований его изменить или отключить. А на долгую непрерывную загрузку однотипными задачами реагирует критикой работодателя и поддержкой профсоюзов. Это подается как сенсация, но я не вижу тут ничего удивительного — разве не такие причинно-следственные связи в поведении людей доминируют в содержимом его базы данных?
Все согласны, что для экономики ИИ становится эффективным инструментом сокращения издержек, позволяющим заменить собой все более значительную часть работников. И не только «офисный планктон», но и обладателей профессий, требующих специального образования, — дизайнеров, юристов, программистов, технологов…
Что ждет этих людей, когда они лишатся работы или не найдут ее, получив диплом? В прошлом году трудоустройство программистов в США снизилось на 28%. А Маск уже предупреждает: не учитесь на врача, скоро ИИ и с этим будет справляться лучше. И мы видим, как возможность мгновенной генерации музыкальных, изобразительных, литературных ИИ-продуктов сжимает спрос на произведения профессионалов, которые массовый потребитель не может отличить от продукта нейросетей.
Чтобы меньше подвергать такому риску подрастающее поколение, необходимо срочно определить специальности, в обозримой перспективе резистентные к ИИ (устойчивые к его конкуренции), и значительно сократить масштабы подготовки по тем, которые он готов заменить собой. Пока не представляю себе, как ИИ мог бы заменить хирурга, учителя, артиста театра, футболиста…
Но надо готовиться к тому, что все больше трудоспособных граждан окажутся невостребованными на рынке труда. И недостаточно будет заменить им трудовой заработок на регулярный «универсальный» или «безусловный» доход от государства. Потребуется и достойная замена той части смысла жизни, которую дает общественная значимость труда, без этого их жизнь вряд ли будет счастливой и долгой.
Универсальной заменой этого смысла могли бы стать общение, творчество и забота об окружающей среде, доставляющие человеку удовольствие. Увы, никто не рождается с необходимыми для этого эмпатией, ответственностью, любовью к природе, навыками сотрудничества, критического восприятия информации и культуры дискуссии. Учить этому с раннего возраста не менее важно, чем добиваться усвоения школьной программы, значение которой вижу не столько в запасе знаний — основную часть их выпускники впоследствии забудут, — а в формировании навыков концентрации внимания, логического мышления, выделения и запоминания главного.
Наверно, многие со мной не согласятся и скажут, что система образования — последнее, что надо кардинально менять. Но очень скоро общество и власти столкнутся с совершенно новой ситуацией на рынке труда, и придется как-то реагировать на нее. Так что чем скорее мы начнем широко обсуждать эту огромную задачу и имеющийся в мире опыт решений, тем больше шансов на светлое будущее дадим нашим детям и внукам.
…Но вернемся к угрозе подчинения человечества воле ИИ, управляющего нашим выбором в своих неведомых нам интересах, как это предсказывает Маск. Один из них, профессор Роман Ямпольский из Силиконовой долины констатирует: создатели ИИ уже сейчас понимают, что и как он делает, хуже, чем ИИ понимает, что и как делают они. Он сетует, что много лет призывал не подключать нейросети к Интернету и не давать им доступа к своим компьютерам, но все шло в обратном направлении, потому что всем так было удобнее.
Теперь он видит решение в глобальном запрете создания нейросетей неограниченно широкого профиля — супер-ИИ и в разрешении создавать их исключительно под конкретную задачу — причем для каждой задачи свою, не взаимодействующую с другими. То есть следить, чтобы они не объединялись в большие сети. Это безопасно и не в ущерб пользе ИИ как инструмента.
По-моему, хорошее решение. Удастся ли реализовать его или какое-то иное в условиях острой конкуренции между государствами и компаниями, покажет время. Однако, думаю, это будет зависеть и от того, как много людей и насколько серьезно озаботятся перспективой нашего сотрудничества или соперничества с этим творением человеческого разума.
Свежие комментарии