Сравнение систем Machine Learning as a Service: Amazon, Microsoft Azure, Google Cloud AI, IBM Watson

Большинству компаний машинное обучение кажется чем-то сверхсложным, дорогим и требующим серьёзных специалистов. И если вы намереваетесь создавать новую систему рекомендаций Netflix, то так и есть. Однако тенденция превращения всего в сервис затронула и эту сложную сферу. Начать с нуля проект ML можно без особых инвестиций, и это будет правильным решением, если ваша компания новичок в data science и хочет начать с решения самых простых задач.

Одна из самых вдохновляющих историй об ML — это рассказ о японском фермере, решившем автоматически сортировать огурцы, чтобы помочь своим родителям в этой утомительной работе. В отличие от крупных корпораций, этот парень не имел ни опыта в машинном обучении, ни большого бюджета. Однако ему удалось освоить TensorFlow и применить глубокое обучение для распознавания разных классов огурцов.

Благодаря облачным сервисам машинного обучения вы можете начать создавать свои первые рабочие модели, делая ценные выводы из прогнозов даже при наличии небольшой команды. Мы уже говорили о стратегии машинного обучения. Теперь давайте рассмотрим лучшие на рынке платформы машинного обучения и поговорим об инфраструктурных решениях, которые нужно принять.

Machine learning as a service (MLaaS) — это зонтичный термин, объединяющий различные облачные платформы, решающие большинство инфраструктурных задач, включая предварительную обработку данных, обучение и оценку моделей с дальнейшим созданием прогнозов. Прогнозы можно связать со внутренней ИТ-инфраструктурой компании через REST API.

Сервисы Amazon Machine Learning, Azure Machine Learning, Google AI Platform и IBM Watson Machine Learning — вот четыре ведущих облачных сервиса MLaaS, обеспечивающих возможность быстрого обучения и развёртывания моделей. Если вы собираете собственную команду data science из разработчиков ПО компании, то вам стоит начать с них. Чтобы лучше понять распределение ролей, прочитайте нашу статью о структурах команд data science или посмотрите видео:

В этой статье мы сначала представим краткий обзор основных платформ machine-learning-as-a-service компаний Amazon, Google, Microsoft и IBM, а затем сравним API машинного обучения, которые поддерживают эти компании. Стоит заметить, что в обзоре не будут представлены исчерпывающие инструкции о том, как и когда использовать эти платформы, это скорее информация о том, на что стоит смотреть при изучении их документации.

У Amazon есть два основных продукта для машинного обучения. Первая платформа называется Amazon Machine Learning, вторая, более новая — SageMaker.

Amazon Machine Learning

Amazon Machine Learning для прогностической аналитики — это одно из самых автоматизированных решений ML на рынке, лучше всего подходящее для операций, в которых очень важно соблюдение дедлайнов. Сервис может загружать данные из нескольких источников, в том числе из Amazon RDS, Amazon Redshift, файлов CSV и так далее. Все операции предварительной обработки данных выполняются автоматически: сервис определяет, какие из полей являются категорическими, а какие числовыми, и не просит пользователя выбрать способы дальнейшей предварительной обработки данных (снижение размерности и отбеливание данных).

Возможности прогнозирования Amazon ML ограничены тремя вариантами: бинарной классификацией, многоклассовой классификацией и регрессией. При этом сервис Amazon ML не поддерживает методики обучения без учителя, и пользователь должен выбирать целевую переменную для её разметки в обучающем массиве данных. Кроме того, пользователь не обязан знать методики машинного обучения, поскольку Amazon выбирает их автоматически после изучения предоставленных данных.

Стоит помнить, что после 2021 года Amazon больше не обновляет ни документацию, ни саму платформу Machine Learning. Сервис по-прежнему работает, но не принимает новых пользователей. Это вызвано тем, что SageMaker и его соответствующие сервисы во всём превосходит AML, и, по сути, предоставляет пользователям ту же функциональность.

Прогностическая аналитика может использоваться в виде данных реального времени или по требованию при помощи двух отдельных API. Единственное, что стоит учесть — в настоящее время Amazon, похоже, делает упор на свои более мощные сервисы ML, например, на описанный ниже SageMaker.

Этот высокий уровень автоматизации является и достоинством, и недостатком при пользовании Amazon ML. Если вам нужно полностью автоматизированное, но ограниченное решение, AML соответствует вашим ожиданиям. В противном случае выберите SageMaker.

SageMaker

SageMaker — среда машинного обучения, предназначенная для упрощения работы дата-саентиста. Она предоставляет инструменты для быстрого создания и развёртывания моделей. Например, у неё есть ноутбук Jupyter для упрощения исследования и анализа данных без возни с управлением сервером.

В 2021 году Amazon запустила SageMaker Studio — первый IDE для машинного обучения. Этот инструмент представляет веб-интерфейс, позволяющий выполнять все тесты обучения моделей ML в единой среде. Все методики и инструменты разработки, в том числе ноутбуки, инструменты отладки, моделирование данных и автоматическое создание доступно в SageMaker Studio.

Также Amazon имеет встроенные алгоритмы, оптимизированные под крупные массивы данных и вычисления в распределённых системах. В том числе:

Встроенные методики SageMaker сильно пересекаются с API ML, предлагаемыми Amazon, однако здесь дата-саентисты могут экспериментировать с ними и использовать собственные массивы данных.

Если вы не хотите их использовать, то можно добавить собственные методики и запускать модели при помощи SageMaker, применяя его функции развёртывания. Или же можно интегрировать SageMaker с TensorFlow, Keras, Gluon, Torch, MXNet и другими библиотеками машинного обучения.

В общем случае, сервисы машинного обучения Amazon обеспечивают достаточную свободу как опытным дата-саентистам, так и тем, кому нужно выполнять задачи без углубления в подготовку массивов данных и моделирование. Эти сервисы могут стать надёжным вариантом для компаний, уже использующих облачные сервисы Amazon и не планирующих переходить к другим поставщикам облачных услуг.

Популярность DevOps в сообществе разработчиков ПО породила понятие "MLOps". DevOps — это методика в разработке ПО, предполагающая слияние команд разработки и эксплуатации для оптимизации процессов разработки ПО благодаря системе коротких и быстрых релизов. Она реализуется применением высокого уровня автоматизации к рутинным задачам. MLOps, в свою очередь, применяет те же принципы к машинному обучению, что привело к появлению автоматизированного управления данными, обучения/развёртывания моделей и мониторинга.

Именно поэтому поставщики услуг MLaaS начали предлагать использующим MLOps компаниям инструменты для управления такими конвейерами машинного обучения. Amazon выпустила фреймворк MLOps для создания инфраструктуры MLOps и управления ею. Он имеет шаблонную архитектуру, содержащую стандартные сервисы AWS, что позволяет быстрее начать создание поверх них собственной системы.

Azure AI Platform представляет собой единую платформу для машинного обучения с API и инфраструктурными сервисами. Ниже я перечислю все крупные сервисы, предлагаемые Azure для решений машинного обучения.

Azure Machine Learning

Azure Machine Learning — основная среда для управления массивами данных, обучения и развёртывания моделей.

Платформа имеет Machine Learning Studio — веб-среду, устроенную по принципу low code, которая позволяет быстро конфигурировать операции и конвейеры машинного обучения. В целом, Azure Studio имеет средства для исследования, предварительной обработки данных, выбора методик и валидации результатов моделирования. Studio поддерживает примерно сто методик, используемых при классификации (бинарной+многоклассовой), детекции аномалий, регрессии, рекомендациях и анализе текстов. Стоит также заметить, что у платформы есть один алгоритм кластеризации (K-means).

Как и платформа Amazon, Azure предлагает интеграцию с Jupyter для записи и выполнения кода в ML Studio. Также она предоставляет ONNX Runtime для ускорения моделей ML в различных операционных системах, на аппаратных платформах и фреймворках. Runtime также можно использовать для организации взаимодействия между разными фреймворками ML. Azure поддерживает такие популярные фреймворки, как TensorFlow, PyTorch, scikit-learn и другие.

В ML Studio есть множество функций, о которых вам нужно узнать.

И ML Designer, и Automated ML предоставляют неопытным пользователям средства для создания решений ML. В свою очередь, Azure Machine learning studio содержит множество функций, которые могут использоваться экспертными дата-саентистами в решениях корпоративного уровня. Однако она не ограничивает эти инструменты, поскольку Azure ML предназначена для использования как единая платформа со всеми её возможностями.

Для освоения машинного обучения на основе Azure требуется обучение. Но в конечном итоге оно приводит к более глубокому пониманию основных технологий в этой сфере. Графический интерфейс Azure ML визуализирует каждый этап рабочего процесса и помогает новичкам. Возможно, основное преимущество применения Azure — разнообразие алгоритмов, с которыми можно экспериментировать.

Azure AI Gallery

Ещё одной большой частью Azure ML является Azure AI Gallery. Это коллекция решений для машинного обучения, предоставленная сообществом; его могут изучать и повторно использовать дата-саентисты. Azure — мощный инструмент для начального освоения машинного обучения и ознакомления новых сотрудников с его возможностями.

Azure Percept

На данный момент у Azure в режиме preview открыт продукт Azure Percept. Основная идея Percept заключается в том, чтобы предоставить SDK для создания моделей, которые можно интегрировать в аппаратные устройства партнёров Microsoft. Благодаря этому можно легко создавать и интегрировать инструменты компьютерного зрения или распознавания речи. Кроме того, к системе можно подключить целый спектр API, о которых мы поговорим ниже.

Обновления платформы за 2019 год в основном сосредоточены на Python Machine Learning SDK и на запуске Azure ML Workspaces (по сути, это UI для платформы ML). Они позволяют разработчикам разворачивать модели, визуализировать данные и работать над подготовкой массива данных в одном месте.

Google AI Platform (Unified) объединила в себе инструменты ML, ранее существовавшие по отдельности. Платформа состоит из AI Platform (Classic), AutoML, фреймворков и API, находящихся внутри AI Platform Unified. Давайте рассмотрим их по отдельности.

AI Platform (Classic)

Следует понять, что AI Platform Classic — это инструмент, включающий в себя множество функций для специалистов по машинному обучению и дата-саентистов. AI Platform Classic предлагает следующие сервисы для построения собственных моделей:

Training Service предоставляет среду для создания моделей при помощи встроенных алгоритмов (на данный момент находящихся в стадии беты) или собственных алгоритмов. Пользователи могут загружать собственные методики обучения или создавать специализированные контейнеры для установки приложения для обучения.

Predictive Service позволяет интегрировать сгенерированные прогнозы в бизнес-приложения или любой другой сервис.

Data Labeling Service — это инструмент, требующий наличия команды людей для разметки данных. Сервис поддерживает разметку видео, текста и изображений, которые будут обработаны в соответствии с вашими инструкциями.

Deep Learning Image предоставляет образ виртуальной машины для задач глубокого обучения. Образ предварительно сконфигурирован для задач ML и data science, в нём предустановлены популярные фреймворки и инструменты.

В AI Platform Notebooks пользователь может создавать инстансы виртуальных машин и управлять ими, а также конфигурировать типы памяти для обработки данных (CPU или GPU). Также инструменты заранее интегрированы с инстансами TensorFlow и PyTorch, пакетами для глубокого обучения и ноутбуком Jupyter.

Управление моделями, заданиями и конечными точками можно выполнять при помощи специального REST API, командной строки gcloud или Google Cloud Console.

AI Platform Classic предназначена для опытных пользователей.

Google Cloud AutoML

Google Cloud AutoML — это облачная платформа ML, предполагающая создание решений на основе данных по принципу no code. AutoML позволяет создавать специализированные модели как новичкам, так и опытным инженерам машинного обучения. Однако платформа также позволяет использовать набор готовых моделей, доступных через API. Мы рассмотрим их ниже.

Основную концепцию платформы Google можно описать как кирпичики для создания ИИ. По сути, это различные инструменты наподобие AutoML, TensorFlow и API, которые должны совместно использоваться при построении решений ML. Это означает, что можно комбинировать собственную модель и заранее обученные модели в одном продукте.

Кроме того, решения ML можно развёртывать на своём веб-сайте или в специализированной AI Infrastructure, содержащей различные методики обработки данных на GPU или CPU. Разумеется, AutoML полностью интегрирована со всеми сервисами Google и хранит данные в облаке. Обученные модели можно развёртывать при помощи интерфейса REST API.

Если воспринимать платформу как единую сущность, то есть два типа решений, которые могут использоваться разными пользователями. AI Platform (Classic) предоставляет расширенные возможности построения собственных моделей и ручного управления алгоритмами и процессами обучения. Оно больше подходит для опытных разработчиков машинного обучения. AutoML предполагает создание моделей, использование данных и интеграцию прогнозов по принципу no code.

Фреймворк TensorFlow

TensorFlow — ещё один продукт Google, являющийся опенсорсной библиотекой машинного обучения различных инструментов data science, а не ML-as-a-service. Он не имеет визуального интерфейса, а изучение TensorFlow может быть довольно сложным. Однако библиотека также предназначена для разработчиков ПО, планирующих переход в сферу data science. Google TensorFlow довольно мощна, однако в основном нацелена на задачи глубоких нейросетей.

По сути, сочетание TensorFlow и сервиса Google Cloud предполагает решения infrastructure-as-a-service и platform-as-a-service в соответствии с трёхуровневой моделью облачных сервисов. Мы рассказывали об этой концепции в своей технической статье, посвящённой цифровой трансформации.

Решение MLOps компании Google обеспечивает схожие с AWS возможности по созданию конвейеров машинного обучения и управлению ими. Однако поскольку Azure предполагает модульную систему, сконфигурированную для использования в ML Studio, среди всех трёх поставщиков его решение кажется самым совершенным.

Платформа IBM Machine Learning организована аналогично платформам описанных выше поставщиков. Строго говоря, в системе возможны два подхода: автоматизированный и ручной (для опытных команд).

Watson Studio и AutoAI

Watson Studio содержит AutoAI, обеспечивающую полностью автоматизированную обработку данных и интерфейс для создания моделей, не требующие или почти не требующие обучения для начала обработки данных, подготовки моделей и развёртывания их в продакшене.

Автоматизированная часть может решать три основных типа задач: двоичная классификация, многоклассовая классификация и регрессия. Можно выбрать или полностью автоматизированный подход, или вручную выбирать используемую методику ML. В настоящее время для выполнения этих трёх групп задач у IBM есть десять методик:

Кроме AutoAI, есть ещё два сервиса, которые можно использовать для создания моделей.

SPSS Modeler

SPSS Modeler. SPSS — это программный пакет, используемый для преобразования данных в статистическую бизнес-информацию. Этот продукт без графического интерфейса пользователя, приобретённый IBM в 2009 году и интегрированный как автономный сервис ML, позволяет загружать массив данных, использовать операторы SQL для манипуляций с данными и обучать модели для управления на основе бизнес-информации.

Neural Network and Deep Learning

Сервис Neural network and deep learning немного отличается от SPSS Modeler. Это инструмент для моделирования нейронных сетей при помощи специального GUI. Сервис интегрирован в Watson Studio, что позволяет управлять данными при помощи его встроенного инструмента интеграции данных. Основная область применения сервиса — функции глубокого обучения и обучение на big data. Кроме того, сервисы нейронных сетей интегрированы с набором фреймворков ML наподобие Keras, PyTorch и TensorFlow.

Отдельно IBM предлагает рабочий процесс обучения глубоких нейронных сетей с интерфейсом редактора потока, схожего с используемым в Azure ML Studio.

Если вам нужны расширенные возможности, у IBM ML есть ноутбуки (например, Jupiter) для ручного программирования моделей при помощи популярных фреймворков наподобие TensorFlow, scikit-learn, PyTorch и других.

Подведём итог обзору платформ machine learning as a service (MLaaS): похоже, на данный момент Azure имеет наиболее гибкий набор инструментов на рынке MLaaS. Она позволяет решать большинство связанных с ML задач, предоставляет два продукта для создания собственных моделей и имеет приличный набор API для тех, кто не хочет сражаться с data science голыми руками.

Одно из последних обновлений, внесённое в 2019 году — это отказ от дальнейшего развития старой системы создания моделей (model builder), которую заменила AutoAI. Модели, обученные при помощи model builder, всё ещё могут работать в ML Studio, однако новые модели можно обучать теперь в AutoAI. Прочие обновления касаются поддержки последних версий TensorFlow и Python.

Наряду с полнофункциональными платформами можно использовать и высокоуровневые API. Это сервисы, внутри которых находятся готовые обученные модели; в них можно отправить данные и получить результаты. API не требуют совершенно никакого опыта в машинном обучении. В настоящее время API этих четырёх поставщиков можно в целом разделить на три крупные группы:

1) Распознавание и перевод текстов, текстовый анализ

2) Распознавание изображений + видео, а также соответствующий анализ

3) Прочее — сюда относятся и специфические сервисы, не соответствующие какой-либо категории.

API для обработки речи и текста: Amazon

Amazon предоставляет несколько API, нацеленных на решение распространённых задач в сфере анализа текстов. Кроме того, с точки зрения машинного обучения они имеют высокую автоматизацию и для работы требуют лишь правильной интеграции.

Amazon Lex. Lex API создан для встраивания чат-ботов в приложения, он обладает возможностями автоматического распознавания речи (automatic speech recognition, ASR) и обработки естественных языков (natural language processing, NLP). Они основаны на моделях глубокого обучения. API может распознавать написанный и произносимый текст, а интерфейс Lex позволяет связывать распознанные введённые данные с различными бэкенд-решениями. Разумеется, Amazon поощряет использование своей облачной среды Lambda. Поэтому прежде чем покупать подписку на Lex, познакомьтесь и с Lambda. Наряду с автономными приложениями Lex в настоящее время поддерживает чат-боты для Facebook Messenger, Slack и Twilio.

Amazon Transcribe. Lex — это комплексный инструмент, нацеленный на создание чат-ботов, а Transcribe предназначен исключительно для распознавания произносимого текста. Инструмент может распознавать несколько собеседников и работает с низкокачественным аудио телефонных разговоров. Благодаря этому API удобно использовать для каталогизации аудиоархивов; также он может быть хорошей поддержкой для дальнейшего анализа данных кол-центров.

Amazon Polly. Сервис Polly является своего рода противоположностью Lex. Он превращает текст в речь, что позволяет чат-ботам отвечать голосом. Однако он не может составить сам текст, просто делает его похожим на человеческую речь. Если вы пользовались Alexa, то примерно понимаете, как это звучит. В настоящий момент инструмент поддерживает женский и мужской голос на более чем тридцати языках, в основном западно-европейских и диалектах английского. Некоторые языки имеют несколько мужских и женских голосов. Как и Lex, Polly рекомендуется использовать с Lambda.

Amazon Comprehend. Comprehend — ещё один набор API для NLP, который, в отличие от Lex и Transcribe, нацелен на различные задачи анализа текста. В настоящий момент Comprehend поддерживает следующие функции:

Этот сервис помогает в анализе ответов и комментариев в соцсетях, а также других объёмных текстовых данных, которые невозможно подвергнуть ручному анализу; например, комбинация из Comprehend и Transcribe поможет в анализе эмоционального настроя при общении со службой поддержки по телефону.

Amazon Translate. Как понятно из названия, сервис Translate переводит тексты. Amazon утверждает, что он использует нейросети, которые обеспечивает повышенное качество переводов «по сравнению с системами переводов на основе правил».

Как и Amazon, компания Microsoft предлагает высокоуровневые API под названием Cognitive Services, которые можно интегрировать в вашу инфраструктуру и выполнять задачи, не имея опыта в data science.

Speech. Речевой набор содержит четыре API, применяющих различные типы техник NLP для распознавания естественной речи и других операций:

Language. Языковая группа API фокусируется на текстовом анализе, аналогичном Amazon Comprehend:

Хотя этот набор API в основном пересекается с тем, что предлагают Amazon и Microsoft Azure, он имеет интересные и уникальные особенности. Так как платформа AutoML пришла на смену Prediction API, теперь она расширяет возможности Google Cloud ML services. Поэтому любой API Google, относящийся к автоматизированному машинному обучению, является реальным вариантом для обучения собственных моделей.

Dialogflow. Различные чат-боты сейчас на пике популярности, поэтому у Google тоже есть своё предложение. Dialogflow основан на технологиях NLP и предназначен для определения намерений в тексте и интерпретации того, что хочет человек. API можно настраивать под необходимые намерения при помощи Java, Node.js и Python.

Natural language API. Он практически идентичен по своим базовым функциям Comprehend компании Amazon и Language компании Microsoft.

Speech-to-Text API. Этот сервис распознаёт естественную речь; вероятно, его основное преимущество перед похожими API заключается в большом количестве языков, поддерживаемых Google. В настоящее время его словарь работает более чем с 125 языками мира и их вариантами. Также он имеет дополнительные функции:

Cloud translation API. По сути, этот API можно использовать, чтобы задействовать в своих продуктах Google Translate. Он содержит более сотни языков и автоматическое определение языка.

AutoML Natural Language API. Он позволяет загружать данные обучения через AutoML UI и обучать собственные модели. У него есть следующие функции:

AutoML translation API. Translation API на данный момент находится в состоянии беты и содержит только информацию о возможностях специализированного моделирования. Стоит учесть, что в будущем он будет обновляться.

IBM тоже конкурирует за рынок API. Давайте изучим список интерфейсов компании.

Speech to Text. В настоящее время IBM предлагает распознавание речи на девяти языках. API может распознавать несколько говорящих, находить ключевые слова и обрабатывать аудио с потерями. API имеет интересную функцию — он перехватывает альтернативы слов и сообщает о них. Например, если система обнаружила слово «Бостон», то она может предположить, что это может быть альтернативой слову «Остин». После анализа этой гипотезы API присваивает каждой альтернативе показатель уверенности.

Text to Speech. Любопытно, что языки text to speech только частично совпадают с языками в speech to text API. Оба продукта поддерживают западноевропейские языки, однако в Text to speech отсутствует корейский и китайский. В английском, немецком и испанском можно выбирать между женскими и мужскими голосами, в остальных языках можно использовать только женские голоса. Это соответствует тенденциям: в основном для голосовых помощников выбирают женский голос.

Language translator. Этот API поддерживает 48 языков для перевода с английского и на английский. Также можно добавлять собственные модели и расширять список доступных языков. На данный момент Translator API был переписан как отдельный сервис со своей моделью ценообразования.

Natural language classifier. В отличие от большинства упомянутых API, классификатор IBM невозможно использовать без вашего собственного массива данных. По сути, этот инструмент позволяет обучать модели на основе собственных бизнес-данных, а затем классифицировать входящие записи. Среди прочего, он применятся для разметки продуктов в онлайн-торговле, распознавания мошенничества, категоризации сообщений, лент соцсетей и так далее.

Natural language understanding. Набор функций понимания языка компании IBM впечатляет. Наряду со стандартным извлечением информации, например, извлечением ключевых слов и сущностей с синтаксическим анализом, API предлагает множество интересных возможностей, отсутствующих у других поставщиков. В их список входит анализ метаданных и поиск связей между сущностями. Кроме того, IBM предлагает отдельную среду для обучения ваших собственных моделей анализу текста при помощи Knowledge Studio.

Personality insights. Этот довольно необычный API позволяет анализировать тексты и извлекать признаки того, как автор взаимодействует с миром. По сути, это означает, что система возвращает следующие данные:

На основании этих данных API может делать выводы о потребительских предпочтениях (например, музыка, учёба, фильмы). Чаще всего эта система используется для анализа генерируемого пользователями контента с целью точного маркетинга продукта.

Важно отметить, что развитие Personality Insights прекращено и поддержка существующих инстансов завершилась в конце 2021 года.

Tone analyzer. Tone analyzer — это отдельный API, цель которого заключается в анализе эмоционального настроя при исследованиях соцсетей и различной аналитике удержания клиентов. Не стоит обманываться его довольно двусмысленным названием. Tone analyzer изучает только письменный текст, но не речь.

Наряду с работой над тестом и речью, Amazon, Microsoft, Google и IBM предоставляют довольно гибкие API для анализа изображений и видео.

Хотя анализ изображений во многом пересекается с API для видео, многие инструменты для анализа видео всё ещё находятся в разработке или на уровне бета-версий. Например, Google предоставляет обширную поддержку различных задач обработки изображений, однако компании определённо недостаёт функций анализа видео, уже доступных у Microsoft и Amazon.

Похоже, Microsoft побеждает, однако нам всё равно кажется, что Amazon обладает самыми эффективными API для анализа видео, поскольку они поддерживают потоковые видео. Эта функция существенно расширяет спектр возможных способов применения. IBM не предоставляет API для анализа видео

Rekognition API используется для задач распознавания изображений, а с недавнего времени и видео. Он имеет следующие функции:

Vision package компании Microsoft объединяет шесть API, занимающихся различными типами анализа изображений, видео и текста.

Cloud vision AI. Этот инструмент предназначен для задач распознавания изображений; он достаточно мощен для нахождения специфических атрибутов изображений:

Cloud Video AI. Этот API компании Google для распознавания видео находится на ранних этапах разработки, поэтому в нём отсутствуют многие функции, доступные в Amazon Rekognition и Microsoft Cognitive Services. В настоящий момент API предоставляет следующий инструментарий:

AutoML Vision API. Также AutoML поставляется со множеством продуктов для обучения моделей, первым из которых стал AutoML Vision. Поскольку все API AutoML сейчас находятся в состоянии беты, продукт обеспечивает следующие возможности:

AutoML Video Intelligence Classification API. Это предрелизный API для обработки видео, который способен классифицировать отдельные кадры видео, используя ваши собственные метки данных.

Хотя с точки зрения списка функций сервисам Google AI может недоставать некоторых возможностей, мощь Google API заключается в обширных массивах данных, к которым имеет Google.

Visual Recognition API компании IBM в настоящее время не поддерживает анализ видео, который уже есть у других поставщиков (поэтому в заголовке и отсутствует упоминание видео). А движок распознавания изображений предлагает базовый набор функций, довольно ограниченный по сравнению с тем, что предлагают другие поставщики:

Разработка этого API также была прекращена, он поддерживал существующие инстансы до конца 2021. И похоже, что IBM пока не предложила никакой альтернативы. Функции Visual Recognition API частично были интегрированы в сервис Neural Network and Deep Learning.

Здесь мы расскажем о специфических API и инструментах Microsoft и Google. Мы не включили в этот раздел Amazon, поскольку наборы API этой компании просто соответствуют вышеупомянутым категориям анализа текста и анализа изображений+видео. Однако часть возможностей этих специфических API также присутствует в продуктах Amazon.

Azure Bot Services. Microsoft приложила много усилий, чтобы предоставить своим пользователям инструментарий для гибкой разработки ботов. По сути, сервис содержит полнофункциональную среду для создания, тестирования и развёртывания ботов при помощи различных языков программирования.

Любопытно, что Bot Service не обязательно требует машинного обучения. Так как Microsoft предоставляет пять шаблонов для ботов (простой, форма, понимание языка, проактивный и Q&A), только тип с пониманием языка требует продвинутых техник ИИ.

В настоящее время можно использовать технологии .NET и Node.js для создания ботов при помощи Azure и развёртывать их на следующих платформах и сервисах:

AWS ML hardware. Недавно представленные физические продукты Amazon снабжены специальными API для программирования оборудования моделями глубокого/машинного обучения. Линейка продуктов Amazon на основе ML представлена тремя устройствами:

AWS DeepLens — это программируемая камера, которая используется для применения ML в реальном оборудовании. В данном случае вы можете использовать сервисы Amazon ML при помощи этой камеры, которая позволяет заниматься распознаванием визуальных данных и обучать на их основе модели ML.

AWS DeepRacer — ещё одно аппаратное устройство из пакета ML, которое, по сути, является автомобилем на радиоуправлении в масштабе 1/18, использующим обучение с подкреплением.

AWS Inferentia — это чип, разработанный для обработки глубокого обучения, который можно использовать для снижения затрат на вычисления. Он поддерживает TensorFlow, PyTorch и Apache MXNet.

Bing Search from Microsoft. Microsoft предлагает семь API, соединённых с базовыми функциями поиска Bing, в том числе с автозаполнением, поиском новостей, изображений и видео.

Knowledge from Microsoft. Эта группа API сочетает в себе анализ текста с широким спектром уникальных задач:

Google Cloud Talent Solution. В отличие от традиционных движков для поиска работы, использующих точные совпадения ключевых слов, Google применяет машинное обучение для нахождения релевантных связей среди сильно различающихся описаний вакансий и устранения двусмысленностей. Например, движок стремится уменьшить количество нерелевантных или слишком обширного возврата вакансий, например, всех вакансий с ключевым словом «assistant» для запроса «sales assistant». Основные функции API таковы:

Watson Assistant. Платформа чат-ботов Watson (ранее называвшаяся Conversation) довольно известна среди инженеров ИИ, специализирующихся на разговорных интерфейсах. IBM предоставляет полнофункциональную инфраструктуру для создания и развёртывания ботов, способных на живой разговор с использованием анализа сущностей и намерений пользователя в сообщениях.

Инженеры могут использовать встроенную поддержку Facebook Messenger и Slack, или создать клиентское приложение для запуска бота в нём.

Четыре описанные в статье платформы предоставляют исчерпывающую документацию для экспериментов с машинным обучением и развёртывания обученных моделей в корпоративной инфраструктуре. Существует также множество других решений ML-as-a-Service, предлагаемых различными стартапами и нашедших своё признание у дата-саентистов, например, PredicSis и BigML.

В разнообразии имеющихся решений легко потеряться. Они различаются с точки зрения алгоритмов, требуемого уровня навыков и задач. Такая ситуация достаточно типична для столь юного рынка, и даже четыре рассмотренных решения не полностью конкурируют друг с другом. Кроме того, впечатляет скорость изменений. Есть большая вероятность того, что вы выберете одного поставщика, но внезапно другой неожиданно выпустит нечто, соответствующее потребностям вашего бизнеса.

Правильно будет как можно раньше сформулировать то, чего вы хотите достичь при помощи машинного обучения. Это непросто. Создать мост между data science и ценностью для бизнеса бывает сложно, если у вас нет опыта в data science или недостаточно знаний в своей предметной области. Наша компания часто сталкивается с этой проблемой при обсуждении применения машинного обучения с нашими клиентами. Обычно её можно решить, упростив всю проблему до одного атрибута. Это может быть прогнозирование цен или другого числового значения, класс объекта или разделение объектов на несколько групп. Найдя этот атрибут, вам будет проще выбрать поставщика и нужный продукт.

Сооснователь DCVC Брэдфорд Кросс заявляет, что ML-as-a-service не является жизнеспособной бизнес-моделью. По его мнению, оно заполняет пробел между дата-саентистами, которые будут использовать опенсорсные продукты, и руководством, которое будет покупать инструменты для решения задач на более высоком уровне. Однако, похоже, что отрасль сейчас преодолевает свои проблемы взросления и вскоре мы увидим, что гораздо больше компаний используют ML-as-a-service, чтобы избежать найма дорогостоящих сотрудников, в то же время получив в свои руки универсальные инструменты для работы с данными.

Понравилась статья? Еще больше информации на тему данных, AI, ML, LLM вы можете найти в моем Telegram канале “Роман с данными”

Обо всем этом читайте в “Роман с данными”

Автор оригинала: altexsoft.com

#машинноеобучение #machinelearningasaservice #microsoftazure #amazon #googlecloudal #ibmwatson #mlaas #sagemaker