Perplexity.ai запустили PPLX Online LLMs с доступом в Интернет для выдачи ответов на основе актуальных фактов

Perplexity - это стартап, основанный в 2022 году, который разрабатывает платформу поиска на основе искусственного интеллекта с использованием больших языковых моделей и нейронного поиска. Основной продукт компании - искусственный интеллект-поддерживаемый ответчик на вопросы, который предоставляет точные ответы на вопросы пользователей.

Недавно компания выпустила PPLX Online LLMs - 2 нейросети с доступом по API, которые используют данные из Интернета для предоставления актуальных ответов на вопросы пользователя - например, "Какой сегодня курс доллара к рублю?". Такие вопросы крайне затруднительны для обычных "оффлайновых" моделей типа ChatGPT, т.к. оффлайновые модели используют только данные, попавшие к ним в процессе тренировки.

Perplexity представило две модели: pplx-7b-online и pplx-70b-online. Первая базируется на mistral-7b, вторая - на llama2-70b. Выдержки из сайтов ("сниппеты") предоставляются моделям pplx-online, чтобы обеспечить ответы с самой актуальной информацией.

Компания произвела оценки качества своих моделей (Chatbot Arena, рейтинг Эло) в сравнении с другими моделями (LLama2 70B и gpt-3.5-turbo (ChatGPT)):

Как видно, модели значительно выигрывают по параметрам "свежести" и "точности фактов".

Вот примеры работы данных нейросетей на русском языке (сделаны через российский агрегатор текстовых нейросетей VseGPT, так как доступ к зарубежному оригиналу затруднен). Примеры приведены на 3 декабря 2023 и показывают способность моделей выдавать по API-запросу актуальную информацию даже на русском языке.

Можно предположить, что в какой-то степени Perplexity models могут стать конкурентом ChatGPT (в части свежести фактических ответов), а также поисковиков (в части удобства предоставляемой информации). Учитывая, что данный сервис предоставляется по API и доступен для встраивания в сторонние приложения, можно ожидать появления самых разных инструментов, работающих не только с генераций текстов нейросетями, но и с актуальными фактами.