Яндекс выявил возможную ошибку в китайском чат-боте

МОСКВА, 30 январяДанные, связанные с технологиями Яндекса, могли попасть в датасет для обучения нейросети DeepSeek — из-за этого китайский чат-бот может случайным образом воспроизводить информацию, связанную с российской компанией, и ошибочно выдавать себя за YandexGPT, сообщила пресс-служба Яндекса.
Во вторник в Telegram-каналах появились скриншоты с ответами DeepSeek на вопрос «Кто умнее, вы или ChatGPT4», где китайский чат-бот сначала утверждает, что он YandexGPT, а затем сообщает, что это недоразумение из-за технической ошибки в данных или случайной путаницы при обучении.

«Многие нейронные сети обучаются на данных, доступных в Интернете. Эти данные могут включать как оригинальные тексты, так и материалы, сгенерированные другими системами искусственного интеллекта. В случае DeepSeek в его набор данных, вероятно, могли входить данные, связанные с технологиями Яндекса, поскольку в Интернете есть публичные обсуждения, упоминания и обзоры таких систем. Именно поэтому, когда модель генерирует ответ, она может случайным образом воспроизводить информацию, связанную с Яндексом, в том числе ошибочно утверждать, что это YandexGPT», — прокомментировали в Яндексе.

Они пояснили, что модели искусственного интеллекта обучаются не только за счет запоминания фактической информации, но и за счет понимания стиля и контекста, в котором эта информация появляется. Кроме того, если DeepSeek генерирует ответ на русском языке, то вероятность использования информации, связанной с Яндексом, увеличивается из-за популярности этих продуктов.
«Появление на рынке данной модели показывает важность развития рынка открытых решений. Мы сами активно участвуем в развитии открытого исходного кода и считаем, что важно поддерживать открытые разработки и развивать технологии, доступные всему сообществу», — оценили китайскую разработку в «Яндексе».
Китайская компания DeepSeek 20 января объявила о выходе версии R1 своего помощника на базе искусственного интеллекта, который, как указано на ее сайте, не уступает ChatGPT. Соответствующее мобильное приложение возглавило рейтинги в ряде стран после выхода новой версии помощника. В частности, в Apple App Store помощник DeepSeek занял первые места в США, Великобритании, ОАЭ, Японии, Южной Корее и Китае.