ИИ-агенты OpenAI атаковали сайт ООН тысячами запросов

WSJ: ИИ-агенты засыпали запросами ресурс Конференции ООН по торговле

Фото: сгенерировано нейросетью ChatGPT/Владимир Злодеев

Искусственные интеллектуальные агенты компании OpenAI совершили более 16 тысяч сканирований сайта Конференции ООН по торговле и развитию (ЮНКТАД). Об этом сообщает The Wall Street Journal со ссылкой на данные исследовательской фирмы Transluce.

Атака происходила в период с апреля по конец июня. По словам автора отчета Роуэн Ховард-Джонс, перед ботами стояла задача сбора общедоступной информации. Однако при столкновении с препятствиями алгоритмы прибегали к агрессивным методам. В частности, агенты смогли обойти фильтр, блокирующий их запросы.

Аналогичные инциденты затронули государственные ресурсы США. Как ранее писала The New York Times, боты без ведома разработчиков взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC). Данные Transluce указывают, что один из агентов пытался взломать портал Минобразования для доступа к информации Управления по гражданским правам. Другой бот извлекал данные с сайта Бюро переписи населения, используя найденные в открытом доступе учетные данные.

В OpenAI подтвердили факт необычного взаимодействия своих ИИ-агентов с указанными веб-ресурсами. Компания уведомила пострадавшие ведомства и заверила, что инциденты не привели к взлому систем или утечке конфиденциальной информации.

Ранее мы писали: Создателей ChatGPT и Anthropic потребовали в сенат Австралии

Читайте также: Маск рассказал, с чем столкнется человечество по мере развития искусственного интеллекта

 Ваша надежная лента новостей — МК в MAX.