Поисковая система с искусственным интеллектом подтасовывает факты в материале New York Times
Статья является переводом с сайта
На арене появилась новая поисковая система на базе искусственного интеллекта, но во время дебюта на широкой публике она оказалась не на высоте.
В своем материале для New York Times обозреватель Кевин Руз рассказал, что он "несколько недель" пробовал поисковую систему Perplexity - созданную на основе моделей OpenAI, Meta и Anthropic альтернативу Google без рекламы, - чтобы понять, насколько она превосходит своих более известных конкурентов.
Хотя Руз в итоге дал Perplexity положительный отзыв, несмотря на отсутствие бизнес-модели, он признался, что у него был некий скрытый мотив для того, чтобы изучить его.
"Я также боюсь, что поисковые системы с искусственным интеллектом могут уничтожить мою работу, и что вся индустрия цифровых медиа может рухнуть в результате появления таких продуктов, как эта", - написал он. "Но я забегаю вперед".
Когда дело доходило до "сложных или неопределенных запросов", таких как поиск мест для свиданий или заведений в рамках определенного бюджета, Руз писал, что ИИ-поисковик господствует. Но для простых фактических запросов, таких как дата предстоящих теннисных матчей Новака Джоковича, он пошел дальше и описал матч, который он уже проводил в прошлом.
По мнению Руза, одним из главных достоинств Perplexity является то, что она позволяет пользователям загружать файлы, которые движок затем может обобщить и/или использовать для "поддержания контекстуальной осведомленности при ответе на последующие вопросы", говорится в блоге компании.
Однако когда Руз попросил обобщить загруженную им статью о моделях искусственного интеллекта, движок уверенно описал совершенно другое исследование.
В интервью NYT, посвященном этому движку, генеральный директор Perplexity Аравинд Шринивас (Aravind Srinivas) предложил урок самообмана, который посрамит любого чатбота ИИ.
"Допустим, вы используете наш продукт, и мы справляемся с восемью из 10 запросов. Вы будете впечатлены", - сказал Шринивас. "А теперь давайте представим, что вы используете продукт Google, а он получает только семь ответов из 10. Вы скажете: "Как Google может ошибаться в трех запросах?". Эта асимметрия и есть наша возможность".
Как отметил Руз в конце своего обзора, поисковые системы с искусственным интеллектом - не совсем новинка. Действительно, визуальные эффекты, сопровождающие статью, дают результаты, ужасно похожие на "генеративный опыт поиска" Google, который предоставляет ИИ резюме существующих источников, которые также могут быть или не быть точными.
Больше всего Perplixity отличается от экспериментов Google и Microsoft в области ИИ-поиска отсутствием рекламы - хотя Шринивас не исключил, что в какой-то момент она может появиться - и своей новизной.
Однако, когда речь заходит о том, чтобы ИИ выдавал точные результаты, все вышеперечисленные системы по-прежнему имеют серьезные проблемы, и вряд ли в ближайшее время ситуация изменится к лучшему.