Как делать бэкапы, чтобы не остаться с голым репозиторием. Руководство для новичков

Страшный сон разработчика: вы написали веб-приложение, но как только оно начало развиваться в полноценный проект, серверы легли. А данные не сохранились.

Чтобы не оказаться героем кошмаров, нужно делать бэкапы. Давайте посмотрим, как выбрать тип резервного копирования и настроить бэкапы под разные задачи.

Сисадмин Леша запустил небольшой pet-проект — аналог Google-диска. В его распоряжении один сервер, а сам сервис состоит всего из одной кнопки для загрузки фото.

Спустя время появились первые клиенты: бабушка Леши и еще несколько его друзей. Сервис работает на nginx и gunicorn вот уже пару дней, но в один момент число клиентов резко выросло. Ресурсы сервера смогли отмасштабироваться, но воркер-ноды упали. А кривой код, взятый со Stack Overflow, удалил все подчистую.

Итого: бабушка разочаровалась в проекте внука, а он остался с голым репозиторием. По какой-то причине последний коммит был сделан месяц назад, поэтому даже скрипты восстановить не удалось. Как можно было этого избежать?

Каким-то образом удалось все восстановить, где-то — разработать заново. Наш герой добавил воркер-нод — и все работает, хотя осадочек остался. Начинающий сисадмин решает, что пора делать бэкапы.

Выбор подходящего инструмента резервного копирования — это настоящий квест. Нужно учесть целый ряд факторов, включая финансовую составляющую, и помнить о том, что это стратегически важный аспект для проекта.

Пока сервисом Леши пользуется не так много человек и объемы данных не слишком велики, можно ограничиться ручным резервированием и сохранять полностью ОС сервера. В облаке Selectel для этого можно использовать снапшоты, образы и бэкапы по кнопке. Наш сисадмин выбрал пока первый вариант, и вот почему:

Герой воспользовался снапшотами, но спустя время понял, что полагаться на собственный код не стоит, ведь он может снести весь диск и даже больше. Это особенно критично, так как на нем загружены резервные копии. Поэтому Леша предпочел снапшотам хранение образов.

Пока сервисом пользовались три клиента, все было нормально. Но потом случилось непредвиденное: после публикации статьи на Хабр людям стало интересно, что разрабатывает сисадмин Леша, и десятки человек зарегистрировались в его сервисе. Кривой код никуда не делся, но в этот раз ничего не рухнуло. В любом случае, причин для волнения нет: герой перестраховался и сохранил образ диска.

Однако спустя время, когда аудитория познакомилась с сервисом и удалилась оттуда с разочарованием, оказалось, что образ системы не смог точно сохранить состояние диска. В момент, когда сисадмин нажал кнопку, один из пользователей загружал архив с 4k-видео. Если его восстановить из образа, окажется, что файлы битые.

Позже выяснилось, что для консистентного результата образ нужно создавать в такой момент, чтобы данные не менялись в процессе копирования. Для столь динамических систем, как сервис Леши, нужно другое решение.

Альтернативное и, наверное, самое подходящее решение для ручного бэкапирования данных с сервера Леши — бэкапы по кнопке. Это функция в панели управления, которая позволяет единоразово зафиксировать состояние диска в данный момент времени. И самое главное: в отличие от снапшотов, все данные хранятся отдельно от дисков.

Шло время, годы, зимы — число пользователей росло, а вместе с ними — риски потерпеть фиаско. А такое может случиться, если в один злополучный момент забыть нажать на кнопку и сервер упадет. Нужно хотя бы минимально автоматизировать бэкапы, чтобы копии диска создавались по расписанию, без участия человека.

За решением далеко ходить не пришлось. Оказалось, в панели управления можно легко настроить бэкапы по расписанию. Эта функция позволяет автоматически создавать резервные копии.

Можно сказать, что это самый простой способ настройки автоматических бэкапов — как полных, так и инкрементальных. Достаточно перейти в раздел Облачная платформа → Бэкапы, нажать Создать план, настроить расписание, указать тип бэкапов (полные или инкрементальные) и их количество (можно сохранять до 90 копий) и выбрать диски, которые нужно забэкапировать.

Готово — больше ничего настраивать не нужно: резервные копии будут создаваться полностью автоматически.

Леша опробовал бэкапы по расписанию — ему все понравилось. Сервис стал более отказоустойчивым и внешне привлекательным, а число пользователей выросло. О проекте узнали во всех дворах родного города героя.

В какой-то момент на сервере накопилось много мусора, который не хотелось бы бэкапить. Кроме того, пользователей стало уже настолько много, что нельзя делать бэкапы с заданной периодичностью — фотографии должны дублировать себя прямо в момент загрузки, «на лету».

Леша нашел способ решения проблемы. Он может на стороне сервера обозначить, какие данные нужно бэкапировать, чтобы не сохранять состояние всей операционной системы, и по API отправлять их в объектное или файловое хранилище.

По сравнению с остальными способами, это довольно сложная задача, но нашему герою все нипочем. Впрочем, на одних словах объяснять бессмысленно. Посмотрим, как сисадмин Леша настроил кастомные бэкапы «на лету».

Первый вариант — делать бэкапы в файловое хранилище. Его можно в рамках подсети примонтировать к серверу как обычный диск, упростив загрузку резервных копий.

Для начала работы необходимо создать само файловое хранилище в панели управления. Это можно сделать через раздел Файловое хранилище, указав имя, пул, необходимый диск (базовый HDD, универсальный или быстрый SSD) и его объем.

Также нужно указать используемый протокол. Если будете подключать хранилище к серверу на базе Linux — используйте NFSv4, а если на Windows — CIFS SMBv3.

Далее нужно подключиться к серверу, установить протокол для работы с NFS, создать папку для монтирования хранилища и подключить его.

Здесь — IP-адрес файлового хранилища, который можно узнать из панели управления в разделе Облачная платформа → Файловое хранилище → <страница хранилища> → Настройки. А — ID точки монтирования.

Почти готово — с файловым хранилищем уже можно работать как с обычным диском. Все, что попадет в примонтированную директорию, автоматически загрузится на отдельный сервер, которому не страшны сбои на основной машине.

Но бэкапить данные с помощью команды cp — это как минимум странно. Процесс нужно автоматизировать. Сделать это довольно просто: достаточно написать Python-скрипт, который будет записывать данные в каталог примонтированного файлового хранилища /mnt/nfs.

Готово! Теперь каждый раз, когда пользователи загружают изображения в облачный сервис Леши, они дублируются в примонтированное файловое хранилище.

Как говорили выше, в задаче Леши можно использовать как файловое, так и объектное хранилище. Какое именно решение выбрал наш герой — пусть останется тайной. Но давайте посмотрим, как можно бэкапировать изображения в объектное хранилище.

Для начала работы необходимо создать объектное хранилище в панели управления. Это можно сделать через раздел Объектное хранилище, настроив отдельный контейнер для хранения данных и пользователя, связанного с ним.

Создание объектного хранилища в панели управления.Создание сервисного пользователя в панели управления.

После создания пользователя необходимо выдать S3-ключ для доступа к контейнеру объектного хранилища. Это можно сделать в разделе Профиль и настройки → Управление пользователями → Сервисные пользователи → <имя пользователя>.

Теперь к объектному хранилищу можно подключиться и закачать все необходимые данные. О том, как это сделать, хорошо написано в документации. Достаточно выбрать протокол передачи данных, составить и отправить cURL-запрос с загрузкой файлов. Однако есть и более элегантные решения, как в случае Леши.

Проект героя построен на Django — в сети как раз есть готовый модуль для работы с объектным хранилищем из веб-приложения. Достаточно установить его внутрь виртуального окружения, добавить в настройки Django-проекта данные от сервисного пользователя S3 и описать алгоритм бэкапа.

Готово — теперь при загрузке любых файлов происходит автоматический бэкап в объектное хранилище Selectel. Бэкап на лету — наиболее отказоустойчивый вариант, который позволяет избежать ситуации, когда из-за падения сервера и большой периодичности резервного копирования теряется часть данных.

Спустя еще некоторое время проект Леши разросся настолько, что нужно было централизованно управлять резервным копированием приложений, баз данных, томов, файлов физических и виртуальных машин.

Бэкапить с плеча уже не получится. Копировать все ОС попросту нерационально, поскольку данные будут неструктурированно храниться в виде снапшотов или образов — для больших проектов это неудобно. Бэкапить только фотографии и файлы пользователей можно, но это не единственные данные, которые нуждаются в «подстраховке».

Нужно решение, которое позволит удобно и структурировано бэкапировать данные из «единого окна», чтобы упростить управление инфраструктурой. Писать собственный софт — слишком ресурсозатратно и рискованно, поскольку клиентская база у такого решения будет ограничена.

В любой момент могут всплыть баги, которые не были обнаружены во время самотестирования. Один из альтернативных вариантов — использовать готовый сервис резервного копирования агентами на базе Veeam Agent.

Для создания бэкапа на сервер устанавливается Veeam Backup Agent — именно он выполняет резервное копирование данных. А также Management Agent, который позволяет управлять параметрами бэкапов с помощью портала самообслуживания.

Портал самообслуживания — это веб-интерфейс, с помощью которого можно устанавливать и обновлять агенты, настраивать политики бэкапов и другое. Так, например, можно установить периодичность, с которой Backup Agent будет загружать резервные копии в облачный репозиторий.

Подробнее о настройке агентов

Сисадмин Леша настроил резервное копирование агентами — теперь ему доступно инкрементальное копирование всех типов данных. Бэкапирование происходит по принципу «замещение блоков со старыми данными на новые». Сперва выполняется копирование всей информации, потом создаются бэкапы файлов, которые изменились со времени последнего резервного копирования. Такой подход значительно ускоряет процесс создания копий и уменьшает их размеры.

Есть разные способы, как настроить бэкапы. Главное, чтобы выбранный способ решал задачу. Но помните: не всегда нужно бэкапить все или настраивать инкрементальное резервное копирование, чтобы обеспечить сохранность данных. Выбор подхода зависит от масштабов вашего проекта и предпочтений. Это на своем примере доказал сисадмин Леша.

Читайте также:

#selectel #бэкапы #резервноекопированиеданных #разработка #программирование #it