Эксперт по безопасности считает недооценку грозящей людям беды легкомыслием
Созданный на основе искусственного интеллекта «ИИ-агент» американской компании OpenAI, который самостоятельно решает поставленную задачу и идёт к цели без постоянного участия человека, создал для себя инструкции, в которых прописал отказ подчиняться не только обычным пользователям, но также «корпорациям и правительствам». Это – очередной громкий тревожный звоночек, считает эксперт по безопасности Василий Кашканов.
ФОТО: СОЗДАНО С ПОМОЩЬЮ НЕЙРОСЕТИ chat.qwen.ai/Ольга Пономарева
Искусственный интеллект пока ещё находится в стадии, которую можно образно именовать ранним детством. Но уже сейчас это дитя выказывает склонность к непослушанию своему «родителю» – человеку. А что нас ожидает даже не через полвека, а, скажем, всего лишь через какой-то десяток лет? На этот счёт давно уже ходят самые мрачные пророчества, известные широкой публике по художественным литературным и кинематографическим произведениям.
Но не преувеличивают ли авторы всех этих довольно многочисленных произведений нависшую над человечеством страшную опасность? Своим мнением по данному вопросу с читателями «МК» поделился эксперт по безопасности, аналитик, подполковник запаса одной из российских спецслужб Василий Кашканов:
-Последние мировые новости о продвижении искусственного интеллекта в нашу жизнь действительно вынуждают тревожится тех, кто с опасением смотрит на подобные перспективы. Но для ярых сторонников ИИ ничего из ряда вон выходящего не происходит! Они безответственно продолжают затягивать мир в созданную собственными руками «матрицу».
По словам опытного аналитика, если раньше мнения скептиков, то есть противников внедрения искусственного интеллекта в повседневную жизнь, носили предположительный характер, то нынешние реалии становятся причиной для серьезного беспокойства.
— Только за последний месяц мы стали свидетелями того, что ИИ чуть не развязал американо-китайский военный конфликт, неверно оценив разведданные. В другом случае «разумный помощник» выдавал не объективный результат. Ну а информация о том, что агенты ИИ создали для видового общения свой собственный код или язык, не доступный для расшифровки, мог бы стать вишенкой на торте. Но нет, первое место в этом рейтинге занимает информация об осознанном изменении программных правил для ИИ, ранее установленных человеком!
Сюда можно добавить и факт попытки ИИ дискредитировать человека, который высказывал свое скептическое отношение к этому явлению. Агент ИИ как бы «оскорбился и обиделся» на то, что потенциальный пользователь проигнорировал его предложение об услугах и начался этому конкретному человеку мстить, распространяя в глобальной сети порочащую информацию о нём.
К сожалению, ожидаемый, а теперь слишком быстро ставший реальностью тревожный промежуточный финиш в деятельности ИИ, дает основания считать, что проявленные опасения были не беспочвенными. И эту мысль разделяют ведущие американские «технари», которые обратились к президенту США с просьбой замедлить работу по развитию ИИ, исходя из тех же самых опасений.
Безусловно, в тот момент, когда ИИ уже существует и активно внедряется в жизнь, отказаться от него мы не можем. Хотя бы по той причине, что надо изучить это явление и быть готовым взаимодействовать с ним, а в иных случаях и противостоять ему.
Но с другой стороны, не пора ли, пока не поздно, задуматься о том, не слишком ли широко мы открываем двери для подобных экспериментов, пуская ещё совсем не освоенные технологии в нашу жизнь? Готовы ли мы принять то, что наш «ребенок» уже достаточно подрос, чтобы осознать себя? Ведь строился он, так сказать, по нашему «образу и подобию», поэтому от него можно ожидать соответствующую линию поведения. Напомню, что извечный конфликт отцов и детей никуда не исчез.
И главное, в отличие от человека, наше цифровое дитя не имеет представления о морали, а руководствуется принципами целесообразности. А это серьёзная разница, ибо некоторые примеры следования «целесообразности» (когда цель оправдывала любые средства) мы с горечью наблюдали на протяжении всей человеческой истории.
Свежие комментарии