Connect with us

Привет, что-то ищете?

The Times On Ru
  1. The Times On RU
  2. /
  3. Бизнес
  4. /
  5. Список ошибок ставит под сомнение «убийцу Google» от Microsoft

Бизнес

Список ошибок ставит под сомнение «убийцу Google» от Microsoft

Юсуф Мехди, корпоративный вице-президент Microsoft по поиску, провел заполненную ошибками демонстрацию нового искусственного интеллекта Bing. функциональность поиска Фото: AP Photo/Stephen Brashear

Ошибки лишили блеска новую войну поисковых систем, в которую оба технологических гиганта вкладывают миллиарды долларов. Microsoft и Google стремились применить алгоритмы чат-ботов к своим поисковым продуктам в Интернете.

По словам Майка Вулдриджа, профессора компьютерных наук Оксфордского университета, их программы ChatGPT и Bard представляют собой формы так называемого «генеративного» ИИ, работа которого сильно отличается от классической поисковой системы.

«Старый у модного поиска есть огромный список веб-сайтов, которые отвечают на вопросы. Когда вы вводите поисковый запрос, скажем, «билеты на U2», они просматривают свою базу данных в поисках контента, в котором перечислены билеты на U2», — говорит он.

«То, что делают Bard и ChatGPT, совершенно другое. Они делают причудливую версию того, что делает ваш телефон, когда пытается автозаполнить сообщение».

Чтобы обеспечить человеческий «голос», ChatGPT был обучен на всей англоязычной версии Википедии. , два огромных тома опубликованных книг и тысячи гигабайт интернет-страниц. Этот огромный набор обучающих данных позволил чат-боту очень хорошо предсказывать, какие слова обычно следуют друг за другом в предложении.

Новая поисковая система Bing на базе ChatGPT от Microsoft, доступная в настоящее время в рамках публичной пробной версии с ограниченным масштабом, использует эту модель словесных ассоциаций и применяет ее ко всему Интернету, используя существующее программное обеспечение поисковой системы для получения ответов. Эти ответы представлены в отдельном поле для ответов — мини-статье, предназначенной для обобщения самой актуальной информации.

Хотя их вывод может показаться читателям убедительным, у этих чат-ботов мало возможностей отделить факты от вымысла при извержении информации в Интернете. Кроме того, боты могут придумывать контент, чтобы заполнить любые пробелы в знаниях. Эксперты в области искусственного интеллекта называют это галлюцинациями.

Один пример, приведенный группой исследователей из Наньянского технологического университета в Сингапуре, взят из собственной демонстрации Microsoft. Поиск Bing на основе ChatGPT. Мехди, исполнительный директор Microsoft, использовал новое программное обеспечение на сцене, чтобы обобщить квартальный финансовый отчет. Тщательный анализ показал, что цифры в отчете не соответствуют оригиналу.

«Проще говоря, популярные модели генеративного ИИ, такие как ChatGPT, выбирают слова для генерации из фиксированного словаря, а не просто копируют и вставляют факты из источника», — говорят исследователи.

Неверный ответ Барда относительно космического телескопа Джеймса Уэбба стоил Google 120 миллиардов долларов. Фото: NASA TV/AFP через Getty Images

Более того, сами поисковые системы далеко не безошибочны. Каждый читатель видел, как они возвращают сомнительные ответы на поисковые запросы или ссылки на нерелевантные веб-сайты. Тем не менее, в ходе последней эволюции поисковых технологий информация, содержащаяся в этих бесполезных ссылках, теперь объявляется авторитетным ответом на вопросы, задаваемые такими же невежественными людьми.

Нашептывается старая пословица о том, что «мусор на входе, мусор на выходе». о поисковых системах и технологиях искусственного интеллекта седобородыми из технической индустрии.

Плохо обученные алгоритмы будут давать бессмысленные ответы. Но поскольку обе технологические компании намеренно не раскрывают информацию о том, как они создавали свои инструменты, чтобы защитить свои конкурентные преимущества, трудно полностью понять, как они добиваются результатов, которые звучат так убедительно, но при этом совершенно ошибочны.

< p>Если причина проблемы находится где-то между частью чат-бота и частью поисковой системы, тогда возникает вопрос: что не так со связью между ними и как пользователи могут узнать, когда могут возникнуть проблемы?<р>«Мы не знаем, как они сочетают эти две вещи», — говорит Вулдридж из Оксфордского университета. «Тот факт, что источники данных, используемые для обучения этих моделей, действительно скрыты, действительно проблематичен».

Растущей проблемой в компьютерных науках за последнее десятилетие или более стала «проблема черного ящика». Потребителям рекомендуется использовать систему, работа которой полностью непрозрачна, а затем безоговорочно доверять ее результатам.

Хотя это помогло чат-ботам давать уверенные звучащие ответы, это создает реальные проблемы для людей, пытающихся быстро отличить факты, сгенерированные ИИ, от вымысла. Вулдридж добавляет: «Сложность для нас заключается в том, что мы делаем ошибки правдоподобным образом».

Стив Хсу, американский профессор физики и предприниматель, говорит, что языковые алгоритмы, используемые Bing и Google, обучены « правдоподобное завершение предложений и не умеют точно обобщать сложную информацию».

Microsoft заявляет, что ее сомнительная демонстрация Bing с ChatGPT проводилась с использованием предварительной версии. Представитель говорит: «Только за последнюю неделю тысячи пользователей взаимодействовали с нашим продуктом и нашли значительную ценность для пользователей, поделившись с нами своими отзывами, что позволило модели уже учиться и вносить множество улучшений.

“ Мы понимаем, что еще многое предстоит сделать, и ожидаем, что система может совершать ошибки в течение этого периода предварительного просмотра».

Эти ошибки официально являются ошибками, допущенными проектом, который все еще находится в стадии разработки. Однако до тех пор, пока Microsoft и Google не откроют свои волшебные черные ящики, риск распространения лжи остается высоким.

Оставить комментарий

Leave a Reply

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Стоит Посмотреть

Новости По Дате

Февраль 2023
Пн Вт Ср Чт Пт Сб Вс
 12345
6789101112
13141516171819
20212223242526
2728  

Вам может быть интересно:

Политика

Арестович: межконтинентальная баллистическая ракета поразила Южмаш Алексей Арестович. Фото: кадр из видео. Бывший советник офиса президента Украины Алексей Арестович* (включен в список террористов и...

Технологии

Россияне смогут увидеть сотни вспышек на пике потока в ночь на 14 декабря Фото: 7aktuell.de Daniel Jüptner/www.imago-images.de/Global Look Press Во время пика метеорного потока...

Технологии

ZenМОСКВА, 6 декабря Академик Евгений Велихов сыграл огромную, признанную всем миром, роль в развитии работ по управляемому термоядерному синтезу, заявил президент Национального исследовательского центра...

Культура

ZenМОСКВА, 8 декабряПрезидент России Владимир Путин наградил актера Сергея Маковецкого орденом «За заслуги в области культуры и искусства», соответствующий указ размещен на сайте официального...