Википедия + ИИ=DuckAssist
Чтобы не остаться в стороне от стремления интегрировать ИИ в поиск, в среду DuckDuckGo анонсировала DuckAssist, основанный на ИИ сводный фактический сервис, основанный на технологиях Anthropic и OpenAI. Сегодня он доступен бесплатно в качестве широкого бета-теста для пользователей расширений браузера DuckDuckGo и приложений для просмотра. Компания, основанная на модели искусственного интеллекта, признает, что DuckAssist может что-то выдумывать, но надеется, что это будет происходить редко.
Вот как это работает: если пользователь DuckDuckGo ищет вопрос, на который может ответить Википедия, появляется DuckAssist и использует технологию AI для создания краткого резюме того, что он находит в Википедии, со ссылками на источники, перечисленными ниже. Резюме отображается над обычными результатами поиска DuckDuckGo в специальном поле.
Компания позиционирует DuckAssist как новую форму "мгновенного ответа" — функцию, которая избавляет пользователей от необходимости копаться в результатах веб-поиска, чтобы быстро найти информацию по таким темам, как новости, карты и погода. Вместо этого поисковая система представляет результаты мгновенного ответа над обычным списком веб-сайтов.
DuckAssist отвечает на вопросы, просматривая определенный набор источников — на данный момент это обычно Википедия, а иногда и связанные сайты, такие как Britannica, - используя активную индексацию DuckDuckGo. Поскольку мы используем технологию естественного языка от OpenAI и Anthropic для обобщения того, что мы находим в Википедии, эти ответы должны более точно отвечать на ваш фактический вопрос, чем традиционные результаты поиска или другие мгновенные ответы.
Поскольку основным преимуществом DuckDuckGo является конфиденциальность, компания заявляет, что DuckAssist является "анонимным", и подчеркивает, что он никому не делится историей поиска или просмотра. "Мы также сохраняем анонимность вашего поиска и истории посещенных страниц для наших партнеров по поиску контента, - пишет Вайнберг, - в данном случае OpenAI и Anthropic, используемых для обобщения предложений Википедии, которые мы идентифицируем".
Если DuckDuckGo использует API OpenAI GPT-3 или ChatGPT, можно опасаться, что сайт потенциально может отправлять запросы каждого пользователя в OpenAI каждый раз, когда он вызывается. Но, читая между строк, кажется, что только статья в Википедии (или отрывок из нее) отправляется в OpenAI для обобщения, а не сам поиск пользователя. Мы также обратились к DuckDuckGo за разъяснениями по этому вопросу.
DuckDuckGo называет DuckAssist "первой в серии генеративных функций с поддержкой ИИ, которые мы надеемся внедрить в ближайшие месяцы". Если запуск пройдет хорошо — и никто не нарушит его состязательными подсказками - DuckDuckGo планирует распространить эту функцию на всех пользователей поиска "в ближайшие недели".
Хотя использование качественного источника информации может уменьшить количество ошибок из-за ложной информации в наборе данных ИИ, это может не уменьшить количество ложных выводов. И DuckDuckGo возлагает бремя проверки фактов на пользователя, предоставляя ссылку на источник под результатом, созданным ИИ, который можно использовать для проверки его точности. Но он не будет идеальным, и генеральный директор Вайнберг признает это: "Тем не менее, DuckAssist не всегда будет генерировать точные ответы. Мы полностью ожидаем, что он будет делать ошибки ".
По мере того, как все больше фирм внедряют технологию LLM, которая может легко дезинформировать, может потребоваться некоторое время и широкое использование, прежде чем компании и клиенты решат, какой уровень галлюцинации допустим в продукте на базе искусственного интеллекта, предназначенном для фактического информирования людей.
Комментарий недоступен