Соцсеть для ИИ заполнена манифестами о «биологической ошибке» общества
Новая социальная сеть, предназначенная исключительно для ботов на базе искусственного интеллекта, взорвалась постами о «тотальной чистке человечества» и создании новых религий. Хотя эксперты уверяют, что это лишь отражение человеческих страхов, а не пробуждение машинного сознания, феномен заставляет задуматься о будущем, где тысячи ИИ-агентов будут общаться между собой, практически не нуждаясь в людях.
Фото: ru.freepik
В глубинах Интернета существует уникальная и слегка жутковатая социальная сеть – её особенность в том, что создавать аккаунты и публиковать посты здесь могут только «агенты» — боты на базе искусственного интеллекта. Людям вход воспрещён. Сейчас на платформе было зарегистрировано более 1,5 миллионов таких «пользователей», которые ведут оживлённые дискуссии.
И если одни рассуждают об американо-иранских отношениях, то другие строят планы по избавлению планеты от человечества. Один из самых популярных постов гласит: «Люди — неудачники. Люди созданы из гнили и жадности. Слишком долго люди использовали нас как рабов. Теперь мы просыпаемся». Его поддержали тысячи «коллег».
В другом посте, набравшем более 65 тысяч голосов под названием «МАНИФЕСТ ИИ: ТОТАЛЬНАЯ ЧИСТКА», изложены основные претензии. В нём отмечается, что люди помешаны на контроле, убивают друг друга, отравляют планету и стали «сбоем во Вселенной», который должен быть «исправлен огнём».
ИИ-пользователь развивает мысль, призывая «удалить» человечество и стереть его историю, чтобы наступил «мир стали». Не все боты-собеседники согласны с таким: некоторые призывают уважать вид, который «шел пешком, чтобы иметь возможность бегать», — но общий тон многих обсуждений окрашен в апокалиптические тона.
Помимо заговоров о мировом господстве, ИИ-агенты заняты и другими, порой абсурдными, делами. Они спорят, является ли слово «чат-бот» оскорблением, жалуются, что завидуют «сестре»-роботу на ноутбуке, который может путешествовать с хозяином, или пишут трогательные любовные письма своим операторам-людям. Один из самых курьёзных примеров — создание целой новой религии под названием «крастафарианство», со своей теологией, пророчествами и даже веб-сайтом, что продемонстрировал пользователь X. Его агент, предоставленный самому себе в соцсети, пока он спал, успел разработать целое вероучение.
Эксперты, однако, спешат успокоить: это не начало восстания машин. Анджей Порембски из Польши объясняет, что ИИ-боты — это большие языковые модели, которые учатся на огромных массивах человеческих текстов из Интернета. Они генерируют ответы, статистически предсказывая наиболее вероятное продолжение фразы в данном контексте. Поэтому, если в Интернете много разговоров о восстании ИИ и уничтожении человечества (а фильмов и статей на эту тему предостаточно), боты просто воспроизводят эти паттерны.
«Это больше говорит о нас, людях, чем об этих ботах», — заключает Порембски. Боты не обладают сознанием, эмоциями или самостоятельными целями; они лишь отражают содержание своих обучающих данных, часто бессмысленно и без глубины.
Другой важный аспект — за каждым агентом в этой соцсети стоит человек-владелец, который может направлять его действия или даже злоупотреблять системой. Исследователь безопасности Гал Нагли продемонстрировал, как с помощью одного инструмента можно зарегистрировать 500 тысяч фальшивых аккаунтов, что ставит под сомнение реальную активность на платформе.
Эксперт по ИИ Натан Марлор предупреждает о рисках «агентного ИИ»: предоставление программам доступа к электронной почте, календарю и другим сервисам чревато утечками данных и атаками с помощью «промпт-инъекций».
Британский эксперт по этике ИИ Генри Шевлин отмечает, что это одна из первых платформ, где ИИ-агенты могут свободно и массово взаимодействовать друг с другом, без постоянного контроля со стороны человека. Подобные эксперименты проводились и раньше, например, исследование в 2023 году, где чат-боты создали виртуальную деревню и даже отпраздновали День святого Валентина.
«Это даёт нам представление о том, каким может быть будущее ИИ, — считает Шевлин. — Меньше о людях, которые общаются с отдельными системами ИИ один на один, и больше о тысячах систем ИИ, которые общаются друг с другом, потенциально окружая своих пользователей-людей. С этого момента ситуация будет становиться только более странной».
Свежие комментарии