Развертывание Marco o1 на локальном PC. Языковая модель рассуждений
Недавно я запускал и тестировал Marco o1. Это одна из первых опенсорсных языковых моделей с многоступенчатой логикой, эта модель использует Chain-of-Thoughts и некоторые другие алгоритмы, которые помогают с решением задач на математику, логику и кодинг. Marco-o1 названа по аналогии с OpenAI o1, благодаря которой Chain-of-Thoughts промптинг и файнтю…
Qwen 2.5 и Qwen 2.5 Coder - перспективная коллекция LLM для систем агентов
Разработчикам приложений Generative AI стоит обратить внимание на новую коллекцию моделей Qwen 2.5 и Qwen 2.5 Coder. С сентября 2024 года эти модели привлекают внимание разработчиков благодаря своей эффективности.
Supervised Fine-Tuning: как настроить LLM под конкретную задачу?
Пожалуй, для адаптации больших языковых моделей (large language model, LLM) под чётко очерченные задачи обработки естественного языка (natural language processing, NLP) нет технологии лучше, чем SFT (supervised fine-tuning). Для дообучения модели её необходимо предварительно обучить, а это означает, что она уже многому научилась из широкого спектра…
Как с помощью supervised fine-tuning кастомизировать LLM
В быстро развивающейся сфере Natural Language Processing (NLP) fine-tuning стал мощным и эффективным инструментом адаптации предварительно обученных больших языковых моделей (Large Language Model, LLM) под конкретные задачи. Предварительно обученные LLM (например, семейство GPT) продемонстрировали существенный прогресс в понимании и генерации языка…
Распознавание именованных сущностей: механизм, методики, сценарии использования и реализация
В этой статье мы расскажем о том, что такое NER, о его принципах работы и о том, как оно используется в реальной жизни. Также в ней мы прольём свет на различные методики NER и способы реализации модели NER.
Квантизация позволяет запускать Llama 3.2 на мобилках
Квантизация помогла портировать последнюю версию LLM Llama 3.2 на мобильные платформы - iOS и Android. Для этого разработчики выпустили квантованные версии Llama 3.2 1B и 3B, которые при тестах на ARM-процессорах показали высокую скорость инференса, по сравнению с несжатыми весами в формате BF16.
Голосовые роботы с YandexGPT: новый уровень взаимодействия
Голосовые роботы, построенные на базе современных языковых моделей, таких как YandexGPT, открывают новые возможности для оптимизации бизнес-процессов и повышения качества обслуживания клиентов. В этой статье мы рассмотрим возможности разработки голосовых роботов с помощью YandexGPT и плюсы, которые это может принести для вашего бизнеса.
Мультимодальные приложения на Llama 3.2 и Llama Stack
Недавний релиз Llama 3.2 с мультимодальными версиями 11B и 90B открывает возможности для создания AI приложений, анализирующих визуальный ввод.
OpenAI o1 - LLM, обученная выполнять сложные логические рассуждения
OpenAI изменили направление развития своих языковых моделей, от просто генерации текста их последняя модель перешла к решению задач с использованием логики и пошагового анализа проблемы.
GraphRAG — методология улучшенного извлечения данных для генерации текста из определенных источников (RAG) от Microsoft.
Чем отличаются языковые модели и их эволюция
Предпосылкой к созданию языковых моделей стало стремление ученых создать системы, которые могли бы понимать естественный язык. Один из первых, кто занялся этой задачей, был Норберт Винер в 1948 году, предложивший идею по созданию устройств, способных моделировать человеческое мышление и язык. Однако первые языковые модели, в современном понимании,…
Эволюция коммерческих переговоров: классика и инновации в бизнес-тренинге
Мы неоднократно сталкивались с противоречивыми мнениями заказчиков относительно проведения бизнес-тренинга «Коммерческие переговоры» и НЛП. Мы рассказываем о нашем изящном видении классики и нового.
НЛП — методика, квазирелигия или карго-культ?
Когда слышишь, как предлагают стать преуспевающим, иметь успех у противоположного пола, легко изучать иностранные языки и даже исцелиться от любых болезней, то первое, что приходит в голову — это очередной развод...
Язык до интернета. Как встроиться текстом в алгоритмы Google до поисковой индексации?
Чтобы предсказать, как ML-модель оценит тот или иной текст, надо знать ее архитектуру. Люди все время пытаются обмануть модель, она же все время на этом учится и пытается под них подстраиваться, чтобы не дать себя обхитрить.
Почему колл-центры могут исчезнуть и как это повлияет на бизнес
О том, что голос имеет критически важное значение в восприятии информации известно довольно давно, взять лишь фразу: «главное не что мы говорим, а как», это подтверждается и исследованием Аллана Пиза, лишь 7% информации мы воспринимаем посредством слов. В случае телефонных переговоров собеседники лишаются возможности получать визуальную информацию,…
Робохроники ИИ: рейтинг продуктивности сотрудников, алгоритмы Walmart против воров и гигантская языковая модель OpenAI
Роботы из Redmadrobot Data Lab рассказывают о новостях, кейсах и подходах в ИИ, которые можно переложить на нашу действительность и реально использовать.
Автоматический заказ воды с помощью технологий ИИ
Занимаясь разработкой различных приложений с использованием технологий ИИ хочется поэкспериментировать с автоматизацией собственного офиса. Мы попробовали определить, кто чаще моет посуду, и нам это удалось. Теперь, может, автоматизировать процесс заказа воды в офис?
Формируем команду для стартапа
Менеджмент инноваций и инновационный менеджмент, без всякого сомнения, разные понятия. Учитывая то, что Стартап - это поиск и разработка нового продукта в сочетании с развитием процесса получения прибыли при его производстве и продаже, предлагаю согласиться с тем, что: