React Native теперь поддерживает Apple LLM для iOS

React Native теперь поддерживает Apple LLM для iOS

✦ Библиотека React Native позволяет запускать LLM Apple на устройствах

✦ Полная локальная обработка данных без отправки в облако

✦ Это обеспечивает приватность, нулевую задержку и автономную работу без интернета

✦ Поддерживается генерация текста с адаптацией в реальном времени, доступен потоковый вывод для интерактивных сценариев

✦ Apple Intelligence включает модель на 3B параметров (3 млрд)

✦ Использует трансформер, квантование и динамические адаптеры LoRa

✦ В планах: вызов внешних API, адаптеры для динамической загрузки моделей, поддержка Android

Подождите реакцией =)

1 комментарий