Дата-центр переезжает к вам на компьютер

Perplexity показала первый гибридный оркестратор, который сам делит задачу между вашим устройством и облаком. Часть работы считается прямо на машине, тяжёлые шаги уходят к агентам в облаке. Простую задачу не отдают дорогой модели, а приватные данные могут вообще не покидать устройство.

Раньше так не выходило, потому что чип в обычном компьютере не тянул настоящий инференс. Теперь тянет, и чем мощнее ваше железо, тем больше работы остаётся на нём и тем реже система идёт на сервер.

Показали вместе с Intel, но харнесс работает и на другом локальном железе, включая NVIDIA RTX Spark.

Подписывайтесь на Telegram Ринат Шакиров | Промпты для Midjourney | ChatGPT |.