Расширение браузера может менять запрос для нейросети, сообщила эксперт

Краткий пересказ от РИА ИИ

• Расширение браузера может изменить запрос пользователя для нейросети еще до того, как он попадет к модели.
• Подмененная инструкция может привести к включению в рабочие документы неверных данных, отправке нежелательных ссылок или внедрению небезопасного кода в программные продукты.
• Специалист по информационной безопасности рекомендует проверить расширения в рабочем браузере, удалить ненужные и внимательно рассмотреть запрашиваемые разрешения оставшихся.

МОСКВА, 29 сен. Расширение браузера может изменить запрос пользователя для нейросети еще до того, как он попадет к модели, рассказала специалист по информационной безопасности компании «Киберпротект» Екатерина Киприянова.
«Диалог с нейросетью может измениться еще до того, как запрос попадет к модели. Расширение браузера, имеющее доступ к содержимому страницы, может прочитать введенный текст, изменить его или добавить скрытую инструкцию», — пишет «Газета.Ru» со ссылкой на Киприянову.

По словам эксперта, пользователь при этом находится на настоящем сайте ИИ-сервиса, и признаков поддельной страницы нет, однако модель получает измененный текст и может предложить подставленную ссылку или включить сведения, о которых пользователь не спрашивал. Взламывать сервис для этого не нужно, пояснила Киприянова.

Она также предупредила, что есть и риск утечки: расширение с широкими правами может получить доступ к фрагментам документов, переписке или коду, которые человек вставил в запрос.

«Если измененный ответ использовать без проверки, неверная инструкция может попасть в рабочий документ, ссылка — в переписку, а небезопасный код — в программный продукт», — отметила Киприянова.
Специалист подчеркнула, что особенно серьезные последствия возможны при использовании ИИ-агента: он может работать с файлами, почтой и другими сервисами, а иногда выполнять действия от имени пользователя. Подмененная инструкция в такой ситуации влияет уже не только на текст ответа, добавила Киприянова.
Эксперт посоветовала проверить расширения в рабочем браузере, удалить ненужные и посмотреть, какие разрешения запрашивают оставшиеся. Если простому дополнению нужен доступ ко всем сайтам, стоит выяснить, зачем, заключила Киприянова.
ОпросКак часто вы используете ИИ?
Постоянно16.4%Время от времени23.7%Крайне редко13.7%Вообще не использую46.2%ПроголосоватьПроголосовали:87311:18