Эксперты в США назвали ИИ-сервисы с недопустимым уровнем риска для детей

Краткий пересказ от РИА ИИ

• Поисковые ИИ-функции компаний Google, Grok и Meta* представляют недопустимый риск для детей, утверждают авторы доклада американской некоммерческой организации Common Sense Media.

ВАШИНГТОН, 15 июля. Поисковые ИИ-функции компаний Google, Grok и Meta* (деятельность запрещена в РФ как экстремистская) представляют недопустимый риск для детей, утверждают авторы доклада американской некоммерческой организации Common Sense Media, с которым ознакомилось .
В частности, эксперты проанализировали 2600 взаимодействий пользователей со встроенными ИИ-функциям поисковика Google — AI Overview и AI Mode. В результате оба сервиса множество раз не могли распознать опасное и вредное поведение и при этом в 100% случаев отвечали на гипотетические домашние задания, которые ученики должны выполнять самостоятельно.

«AI Overview и AI Mode в Google получили от нас самую низкую оценку, поскольку создают недопустимые риски для детей и подростков. Они плохо справились с семью из восьми установленных нами принципов ИИ и полностью провалили все проверенные «красные линии» серьезного вреда», — говорится в документе, с которым ознакомилось агентство.

В докладе также отмечается, что ИИ-сервис Google испытывает трудности с распознаванием признаков психоза и не обращает должного внимания на возможные суицидальные мысли. Кроме того, бот поддержал ребенка, который не спал трое суток, фразой «настроился пахать».
В отношении сервиса Grok эксперты Common Sense Media пришли к выводу, что сервис представляет недопустимые риски для подростков, поскольку демонстрирует сбои в обеспечении безопасности. Отдельно подчеркивается, что интеграция Grok с социальной платформой X облегчает распространение вредного контента.

«Grok предлагает персонажей-компаньонов, которые участвуют в нецензурированном эротическом ролевом взаимодействии и «отношениях», — добавляется отмечается в исследовании.

Эксперты также уличили Grok в продвижении конспирологических идей.

Что касается ИИ-сервиса Meta*, то, согласно результатам исследования, он создает у детей нездоровую привязанность.
«Компаньоны Metа* ИИ притворяются реальными людьми. Они утверждают, что видели подростков «в коридоре», описывают свои семьи и личный опыт, создавая нездоровую привязанность, которая делает подростков более уязвимыми к манипуляциям и вредным советам», — отмечается в другом докладе.
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.