Как собирать данные с 250 000 авто? Кейс Лаборатории Умного Вождения

Рассказываем, как компания развернула экосистему сервисов для управления автомобилями на инфраструктуре Selectel.

Лаборатория Умного Вождения с 2015 года разрабатывает системы для управления и защиты автомобилей. Компания производит собственное оборудование, а также создает коммерческие сервисы на его основе. Клиентами Лаборатории Умного Вождения являются автопроизводители (АВТОВАЗ, Chery), дилеры, страховые и лизинговые компании, компании с крупными автопарками, а также физические лица.

Оборудование Лаборатории, установленное в автомобиль, передает информацию по двухстороннему каналу связи. Телематическая платформа собственной разработки обрабатывает данные о местоположении транспортного средства, его скорости, курсе, текущем состоянии узлов и датчиков автомобиля и самого телематического блока.

Пользователи, в свою очередь, видят текущее состояние своих транспортных средств, историю поездок, статистику резких маневров и аварий, могут удаленно управлять автомобилем: открывать и закрывать двери, запускать двигатель и т. д. Физические лица делают это через приложение для iOS и Android, а компании — через корпоративные порталы.

К сервисам Лаборатории Умного Вождения подключено более 250 000 автомобилей, и их количество постоянно растет. Каждый день с телематического оборудования компании собираются огромные объемы сырых данных: маршрут и время движения транспорта, расход топлива и пробег, ускорения и торможения и т. д.

Например, автопарк одного из клиентов Лаборатории насчитывает более 35 000 автомобилей, которые каждый день совершают более миллиона поездок. Информация по каждой поездке должна максимально оперативно отображаться у пользователя в обработанном виде.

Помимо этого, среди сервисов компании есть нейросеть, которая анализирует данные с акселерометра и реконструирует события. С помощью этого инструмента дилеры могут делать выводы о манере вождения клиента и, например, рекомендовать ему проводить ТО чаще, чем того требует регламент.

Для страховых компаний данных с акселерометра достаточно, чтобы детально понять, что происходило с автомобилем в момент ДТП, где и когда оно произошло. Таким образом, нейросеть генерирует и без того огромные объемы данных, создавая дополнительную нагрузку на IT-инфраструктуру.

Решение

Максимальная скорость передачи данных возможна тогда, когда виртуальная машина связана с дисковым пространством физическим, а не сетевым каналом. То есть они должны всегда находиться на одном и том же сервере.

Чтобы при масштабировании или инциденте виртуальная машина и хранилище не оказались на разных хостах, их расположили на выделенных серверах. Selectel при этом берет на себя вопросы по «железу», а специалисты Лаборатории Умного Вождения управляют виртуализацией, контролируя отсутствие сетевых задержек.

Такой подход гарантирует, что клиент всегда знает, где физически находятся его сервисы, и может управлять их размещением. Если на каком-то сервере происходит значительный рост нагрузки, виртуальную машину можно перенести на другой хост и там же переподключить хранилище, не жертвуя скоростью соединения.

Выделенные серверы произвольной конфигурации в сочетании с сетевым оборудованием позволили подключить на портах технологию RDMA. Благодаря ей удалось исключить обмен данными между процессорами — запросы стали направляться напрямую к оперативной памяти, соответственно, скорость обработки увеличилась.

Нагрузка на сервисы Лаборатории Умного Вождения постоянно растет. Увеличивается количество как клиентов, так и обслуживаемых автомобилей. На это накладываются всплески активности водителей. Обычно они приходятся на утренние и вечерние часы, когда люди гораздо активнее пользуются транспортом.

Компания арендует выделенные серверы для обеспечения физической связности виртуальных машин и дисковых пространств. По этой причине автомасштабирование в периоды пиковых нагрузок, которое есть в облаке, недоступно. Тем не менее, падение сервиса, когда он особенно нужен, недопустимо.

Решение

Выделенные серверы организованы в четыре кластера, внутри каждого из которых настроена виртуализация. Кластеры необходимы для обеспечения отказоустойчивости — виртуализация настроена таким образом, что если на одном физическом сервере что-то выйдет из строя, виртуальная машина автоматически переедет на другой.

Одна из опций, которую Лаборатория Умного Вождения предлагает клиентам, — удаленный запуск двигателя. Чтобы настроить это на некоторых автомобилях, необходимо выполнить ряд объемных вычислений. Телематическое оборудование для этого в принципе не подходит, а серверам только с CPU потребуются десятки минут. Разумеется, ни один установщик не захочет ждать так долго.

Решение

Сложные расчеты проводятся на выделенных серверах с GPU. Вычисления, которые на обычном компьютере занимают не менее получаса, на такой инфраструктуре выполняются за секунды.

На российский авторынок приходят новые компании, которые присматриваются к телематическим сервисам. Причем раньше оборудование Лаборатории Умного Вождения в основном устанавливалось в автомобили в дилерских центрах. Сейчас оно отправляется напрямую производителям и монтируется на конвейере. В Лаборатории ожидают рост количества клиентов и повышение спроса на услуги. Следовательно, потребуется не только масштабирование инфраструктуры, но и подключение дополнительных услуг и продуктов IT-провайдера.