Компания Google признала, что ее чат-бот Bard по-прежнему может давать «вводящую в заблуждение или ложную информацию», поскольку она запустила общедоступный механизм искусственного интеллекта (ИИ).
Во вторник американский технологический гигант заявил, что люди в США и Великобритании используют Bard как «ранний эксперимент» с технологией.
Bard — это попытка конкурировать с ChatGPT, чрезвычайно популярным чат-ботом, поддерживаемым Microsoft, запущенным в ноябре.
Люди могут задавать как ChatGPT, так и Bard сложные вопросы, и они будут отвечать в разговорном стиле, опираясь на онлайн-информацию.
Однако программное обеспечение не может определить, является ли информация точной, а технология было обнаружено, что извергается неверная информация.
Компания написала в своем блоге: «Хотя LLM [большие языковые модели, техническое название ИИ] — захватывающая технология, они не лишены недостатков… они могут предоставлять неточную, вводящую в заблуждение или ложную информацию, представляя ее уверенно.
“Например, когда Барда попросили поделиться парой предложений по простым комнатным растениям, Бард убедительно представил идеи… но некоторые вещи были неверными, например, научное название растения ZZ”.
< img src="/wp-content/uploads/2023/03/6fc8cf5364138902fa61496f2f3e6a69.jpg" /> Предоставлено: Google
Перезапущенный чат-бот с искусственным интеллектом будет сопровождаться предупреждением о вреде для здоровья, информирующим пользователей о том, что Бард может «отображать неверную или оскорбительную информацию» при каждом ответе.
Выпуск Барда происходит после неудачного запуска технологического гиганта в последний раз. месяц, когда инструмент показал неточный ответ о телескопе Джеймса Уэбба.
Бард ложно утверждал, что телескоп сделал первый снимок планеты за пределами Солнечной системы.
Зубин Гахрамани, профессор Кембриджа и вице-президент по исследованиям в Google, сказал: «Это эксперимент, и у него есть ограничения».
Ответы Барда будут называться «черновиками», а чат-бот предоставит три возможных ответа. ответы на каждый вопрос.
Джек Кравчик, старший директор Google, сказал: “Мы очень осторожно используем слово “черновик”, потому что оно подразумевает неполноту”.
ChatGPT заставил конкурентов, таких как Google, запустить свои собственные программы искусственного интеллекта. Google назвал запуск ChatGPT «красным кодом» угрозой доминированию своей поисковой системы.
OpenAI, стартап из Силиконовой долины, стоящий за ChatGPT, уже подписал многомиллиардное соглашение с Microsoft о внедрении своей технологии в свою поисковую систему Bing.
Несмотря на вирусный успех ChatGPT, было обнаружено, что он также показывать дезинформацию и бред. С небольшой подсказкой ботов можно обмануть, заставив их явно нарушать встроенные правила, заявляя о своей любви или чувствах к пользователям.
С сегодняшнего дня чат-бот Google Bard будет открыт для пользователей в Великобритании и США. , но подвергается ряду строгих ограничений, поскольку Google пытается помешать своей технологии выдавать неудобные или оскорбительные ответы.
ИИ будет стараться избегать высказываний по спорным темам.
Бард обучен миллионам строк текста, онлайн-книгам, статьям и энциклопедиям. Затем его программное обеспечение использует это, чтобы давать ответы на вопросы и подсказки, подобные человеческим.
Руководители искусственного интеллекта Google подчеркнули, что Bard был разработан для предоставления «творческих» подсказок, когда люди используют этот инструмент для « сотрудничать с генеративным ИИ».
Recent Comments