Mlops

Недавно сидел на презентации AI-стратегии крупного ритейлера. Бюджет $2.3М. 67 слайдов про "цифровую трансформацию". Красивые прогнозы роста эффективности на 340%.

Откуда такой громкий вывод, спросите вы? Из исследования, которое показало, что ИИ в командной работе — это не просто инструмент, а активный участник, который влияет на то, как люди общаются, что они замечают и как они взаимодействуют друг с другом.

Что такое Frontier Deployment Engineer? Роль Frontier Deployment Engineer (FDE) — это новая специализация, которая появилась в крупных AI-компаниях. FDE — это инженер, который сочетает технические навыки программирования с умением взаимодействовать с клиентами. Он не только внедряет и кастомизирует AI-модели, но и помогает клиентам эффективно испол…

Представляем вашему вниманию подборку лучших книг по искусственному интеллекту за 2025 год, получивших высокую оценку от читателей Amazon. Книги доступны как на русском, так и на английском языках.

Недавно я запускал и тестировал Marco o1. Это одна из первых опенсорсных языковых моделей с многоступенчатой логикой, эта модель использует Chain-of-Thoughts и некоторые другие алгоритмы, которые помогают с решением задач на математику, логику и кодинг. Marco-o1 названа по аналогии с OpenAI o1, благодаря которой Chain-of-Thoughts промптинг и файнтю…

Разработчикам приложений Generative AI стоит обратить внимание на новую коллекцию моделей Qwen 2.5 и Qwen 2.5 Coder. С сентября 2024 года эти модели привлекают внимание разработчиков благодаря своей эффективности.

Во-первых, веса Qwen 2.5 доступны в версиях от 0.5B параметров — это очень легковесная модель — до 72B. Посередине есть 3,…

Команды MLOps вынуждены развивать свои возможности по масштабированию ИИ. В 2022 году мы столкнулись со взрывом популярности ИИ и MLOps в бизнесе и обществе. В 2023 год ажиотаж, учитывая успех ChatGPT и развитие корпоративных моделей, будет только расти.

Квантизация помогла портировать последнюю версию LLM Llama 3.2 на мобильные платформы - iOS и Android. Для этого разработчики выпустили квантованные версии Llama 3.2 1B и 3B, которые при тестах на ARM-процессорах показали высокую скорость инференса, по сравнению с несжатыми весами в формате BF16.

Как вообще получилось, что Llama работает на…

Недавний релиз Llama 3.2 с мультимодальными версиями 11B и 90B открывает возможности для создания AI приложений, анализирующих визуальный ввод.

Мультимодальные модели были и раньше, но это первая официальная версия Llama с такими функциями. Модель может быть использована для распознавания объектов и текста на изображении, как это делает GPT-4…

OpenAI изменили направление развития своих языковых моделей, от просто генерации текста их последняя модель перешла к решению задач с использованием логики и пошагового анализа проблемы.

До сих пор LLM генерировали текст на основе данных, использованных в процессе обучения. Веса модели хранят представление о зависимостях между текстовы…

В мае текущего года практика Advanced Analytics GlowByte провела студенческую стажерскую программу по направлению «Практический ModelOps». Из 35 кандидатов, претендующих на участие, 12 человек прошли три этапа отбора. В проведении стажировки и оценке проектов принимали участие руководители и специалисты направления ModelOps.

История машинного обучения (Machine learning, ML) началась в 1950-х, когда появились первые нейронные сети и алгоритмы ML. Однако чтобы стать известным обычному человеку, машинному обучению понадобилось ещё шестьдесят лет. Анализ более чем 16 тысяч статей по data science MIT technologies демонстрирует экспоненциальный рост машинного обучения на про…