Инструкция: создать и загрузить разметку изображений в новый инструмент Apple для обучения нейросетей Create ML

Перевод материала разработчика IBM Watson Николаса Бурдакоса.

В закладки

Перевод подготовлен командой онлайн-школы английского языка Skyeng.

На WWDC 2019 анонсировали выход новой версии Create ML — инструмента, который позволяет создавать собственные модели машинного обучения. Для этого достаточно перетащить в программу папку с данными для обучения, и Create ML сделает всё сам.

Как подготовить данные для работы

Если нейросеть должна просто классифицировать изображения или звуки, достаточно рассортировать данные по папкам. Но для обучения сети, которая должна распознавать объекты или данные, необходимо добавить разметку.

Помимо самих изображений, для работы понадобится файл JSON, в котором будут храниться координаты объектов. У разметки должен быть следующий формат:

[ { "image": "image1.jpg", "annotations": [ { "label": "carrots", "coordinates": { "x": 120 "y": 164 "width": 230 "height": 119 } }, { "label": "orange", "coordinates": { "x": 230 "y": 321 "width": 50 "height": 50 } } ] }, ]

Обратите внимание: координаты X и Y обозначают центр ограничивающего прямоугольника, все координаты указываются в пикселях.

Как сгенерировать подобный файл? (Понятное дело, никому не хочется делать это вручную.) В инструкциях Apple говорится:

Для создания разметки вы можете воспользоваться программами, загруженными из интернета.

Какой же программой воспользоваться? Cloud Annotations!

Я создал программу Cloud Annotations специально для таких случаев. Она выделяет области изображений и создаёт разметку в формате Apple, которая сохраняется в файле JSON.

Создаём хранилище изображений

Чтобы использовать Cloud Annotations, необходимо создать облачное хранилище изображений — так наши данные для обучения нейросети будут храниться в одном месте и не потеряются.

Также в программе предусмотрена возможность совместной работы, то есть разметкой данных может заниматься сразу несколько специалистов.

В IBM Cloud можно бесплатно получить 25 ГБ пространства — его я и буду использовать:

  • Чтобы создать хранилище, нужно зарегистрироваться на платформе IBM Cloud и войти в аккаунт.
  • В панели управления IBM Cloud можно создавать и настраивать хранилища.
  • Чтобы создать его, нужно нажать на «Создать хранилище» (Create resource).
  • Далее — опция «Хранилище объектов» (Object storage).
  • Здесь можно выбрать тарифный план, в следующем окне необходимо подтвердить свой выбор.

Идентификационные данные

Хранилище создано. Теперь нужно сделать так, чтобы в него могли поступать данные из-за пределов платформы IBM Cloud. Для этого нужно получить идентификационные данные хранилища.

Для этого во вкладке «Идентификационные данные сервиса» (Service credentials) нужно нажать кнопку «Новые идентификационные данные» (New credential).

Все поля заполнять необязательно. Главное убедиться, что идентификационным данным назначена функция записи (Role: Writer), и указать следующие параметры встроенной конфигурации:

{"HMAC": true}

После этого нужно нажать на выпадающее меню «Идентификационные данные» (View credentials) и записать следующие параметры: apikey, access_key_id, secret_access_key и resource_instance_id.

{ "apikey": "...", "cos_hmac_keys": { "access_key_id": "...", "secret_access_key": "..." }, "endpoints": "...", "iam_apikey_description": "...", "iam_apikey_name": "...", "iam_role_crn": "...", "iam_serviceid_crn": "...", "resource_instance_id": "..." }

Cloud Annotations

Чтобы использовать программу, необходимо перейти на сайт Cloud Annotations Tool и указать идентификационные данные хранилища.

Файлы и разметка будут храниться в «ведре», которое нужно создать, нажав на кнопку «Создать ведро» (Create bucket).

Когда название и «ведро» созданы, программа попросит выбрать тип разметки. Необходимо выбрать вариант «Локализация» (Localization) — это позволит выделять области изображений.

Советы по данным для обучения нейросети

Обучаемая модель предназначена для работы с фотографиями реальных объектов. Она не сможет работать с рентгеновскими изображениями, рисунками, отсканированными документами, чеками и так далее.

Данные, использующиеся для обучения нейросети, должны быть максимально приближены к данным, с которыми работает разработчик. Если он будет анализировать размытые изображения низкого качества (к примеру, фотографии с камеры наблюдения), необходимо обучать нейросеть на размытых изображениях низкого качества.

Хорошо, если у разработчика будут изображения с разных ракурсов, разного разрешения и с разным фоном.

Наша модель не сможет распознавать изображения, которые не может распознать человек. То есть если человек не может за одну–две секунды распознать объекты на изображении, модель тоже, скорее всего, этого сделать не сможет.

Рекомендую использовать не менее 50 изображений для каждого типа объектов, но чем больше их будет (100 или 1000), тем лучше результат.

Модель, которую мы будем обучать, приводит все изображения к формату 300 x 300 px. Это стоит учитывать при работе с изображениями, у которых ширина значительно превышает высоту, или наоборот.

Разметка данных

Чтобы разметить изображения:

  • загрузите в программу видео или набор изображений;
  • определите нужные типы объектов;
  • начните размечать изображения — выделять объекты.

Получаем разметку

Когда мы собрали и разметили первую партию изображений, можно приступать к обучению модели.

Устанавливаем CLI

Чтобы получить файл с разметкой, нужно установить Cloud Annotation CLI:

npm install -g cloud-annotations

Обратите внимание: у вас должен быть установлен Node версии 10.13.0 или выше. Для переключения между разными версиями Node для разных проектов используйте nvm (для macOS или Linux) или nvm-windows.

Загружаем разметку

Для загрузки разметки используйте команду:

cacli export --create-ml

После окончания загрузки у вас появится папка exported_buckets, в которой будет находиться содержимое «ведра». Нужно перетащить эту папку в Create ML, теперь можно начать работать.

#createml #разметка #нейросеть #инструкции

{ "author_name": "Вячеслав Шегай", "author_type": "editor", "tags": ["\u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430","\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c","\u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0438","createml"], "comments": 1, "likes": 17, "favorites": 39, "is_advertisement": false, "subsite_label": "dev", "id": 75332, "is_wide": false, "is_ugc": false, "date": "Mon, 15 Jul 2019 16:24:23 +0300" }
{"average":25955,"one":95,"ten":75}
Сколько денег вы откладываете в месяц?
Ответьте и узнаете, сколько копят другие.
0 ₽
70 000+ ₽
0 ₽
{ "id": 75332, "author_id": 171398, "diff_limit": 1000, "urls": {"diff":"\/comments\/75332\/get","add":"\/comments\/75332\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/75332"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 235819, "last_count_and_date": null }
1 комментарий

Популярные

По порядку

0

Дельно.Спасибо большое

Ответить
0
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Нейронная сеть научилась читать стихи
голосом Пастернака и смотреть в окно на осень
Подписаться на push-уведомления
{ "page_type": "default" }