{"id":14285,"url":"\/distributions\/14285\/click?bit=1&hash=346f3dd5dee2d88930b559bfe049bf63f032c3f6597a81b363a99361cc92d37d","title":"\u0421\u0442\u0438\u043f\u0435\u043d\u0434\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u0442\u044c \u043d\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u043b\u0438 \u043f\u0443\u0442\u0435\u0448\u0435\u0441\u0442\u0432\u0438\u044f","buttonText":"","imageUuid":""}

«Тополиный пух, жара, июль», или как этим летом работают кондиционеры ЦОДа

Радиаторы и вентиляторы сплит-системы кондиционеров Stulz в ЦОДе Тушино ITSOFT
Иванушки International с песней “Тополиный пух, жара, июль” в этом году как никогда актуальны

Начало заголовка статьи взято из песни группы “Иванушки International”, которая так и называется “Тополиный пух” – поставим значок авторских прав © и дадим ссылку на трек. В песне еще есть такие слова – “ночи такие теплые”.

Теплые не только ночи, но и дни. Недавно был побит температурный рекорд дня +34,8 градусов Цельсия. “Такой жары в июне за это время не было еще никогда”, – сообщили в Росгидрометцентре. Июль 2021 года не прохладнее. Так что нынешнее лето выдалось жарким, ну и тополиный пух присутствует как всегда, как же без него. В итоге центры обработки данных работают в довольно критическом режиме. Разберемся, как себя чувствует ключевое звено серверной – система охлаждения.

Итак по порядку. Сервер потребляет несколько сотен ватт энергии. Таких в телекоммуникационном шкафу десятки. Обычно расчет идет на стойку, на которую приходится в среднем 5 кВт. Хотя есть отдельные виды оборудования мощностью до 7 кВт на одно устройство. Тепла много и если есть проблемы с его отводом, то машинный зал встанет. О последствиях аварии лучше не говорить. Поэтому за кондиционированием воздуха в машинном зале система мониторинга следит очень внимательно. Датчики температуры настолько суровы чувствительны, что могут зафиксировать присутствие человека, который задержался у стойки.

Температурный датчик в стойке серверной itsoft в Тушино

Ниже на графике видно, что температура у конкретной стойки поднялась – это не оборудование в данный момент стало работать более интенсивно, это к стойке подошел инженер и проводит профилактические работы (он заслонил собой поток воздуха, ну и сам излучает тепло, примерно 100 Вт). Само оборудование нагревается более плавно и на графике не было бы такого скачка. Так что удаленно даже не по видеокамерам, а по диаграмме температуры можно понять – есть ли кто-то из теплокровных существ в машинном зале или нет.

Диаграмма температуры одной из стоек

Пример с инженером у стойки конечно же курьёзный, тем не менее он демонстрирует отношение владельца дата-центра к контролю температурных показателей.

Вот как выглядит сводка мониторинга температуры одного из участков – если нажать на изображение и увеличить его, то будет видна температура в горячих и холодных коридорах машинного зала. В холодном коридоре температура колеблется от +18 до +25, в горячем от +21 до +34 градусов Цельсия. Всё в пределах нормы.

Мониторинг температуры в дата-центре ИТСОФТ в Тушино

Теперь перейдем непосредственно к кондиционерам, к жаре, июлю и пуху. Даем пример двух радиаторов, а точнее решеток воздухозаборников.

Кондиционер курильщика

Кондиционер здорового человека

Моем, чистим, драим

С тем, чтобы эффективная охлаждающая поверхность решетки радиатора соответствовала заявленным производителем параметрам требуется проводить профилактические работы. Необходимо периодически брать старый добрый Керхер и производить нехитрую операцию очистки радиатора от наслоений и пыли. Мы не подписывали рекламный контракт с этим производителем – возьмите любой другой моющий агрегат, главное – используйте обычную воду, без всяких шампуней и моющих средств, поскольку алюминий и медь, из которых изготовлены трубки и ламели (теплоотводящие пластины) радиатора не любят щелочь и со временем могут окислиться.

Ламели очень тонкие (десятые доли миллиметра), поэтому струю воды надо направлять перпендикулярно к ним, а не под углом, иначе они могут погнуться.

Процесс очистки выглядит просто, но крайне важен.

Еще немного кадров кондиционера Stulz:

Боковина радиатора внешнего блока кондиционера Stulz

Сбоку устройства видны 6 рядов трубок

Вентилятор сплит-системы кондиционера ЦОДа Тушино. Горячий воздух – градусов под 45

Как работает трансформатор? – спрашивает учитель.
- У-у-у-у – отвечает ученик.

А мы покажем, как работает вентилятор.

Почему надо следить за внешней частью сплит-системы кондиционера? Все дело в том, что если она загрязнится/засорится, то давление во входном и выходном патрубках, по которым течет хладагент выйдет за пределы нормы и автоматика его отключит. Как говорится, “Аларма!”. Понятно, что система кондиционирования центра обработки данных имеет резервирование, но доводить до точки кипения (в прямом смысле до кипения хладагента) не надо.

Внутри. Машинный зал ЦОДа

Переходим с улицы в машинный зал. Вот что отображается табло. Там свежо, несмотря, что на улице “жара-июль”:

Табло кондиционера
Панель кондиционера Stulz

Обращаем внимание еще на пару моментов:

Шторки в телекоммуникационном шкафу

Временно незадействованные телекоммуникационные шкафы закрыты шторками дабы драгоценный холодный воздух не перетекал из соответственно холодного коридора ЦОДа в горячий коридор минуя оборудование.

А это решетки фальшполов. Обратите внимание, они имеют разный размер ячеек (назовем их так). Из-под фальшполов подается охлажденный воздух и размером ячеек можно регулировать степень охлаждения каждой зоны машинного зала. Поэтому проектирование и эксплуатация дата-центра – не тривиальная задача.

Фальшпол

Случай из практики

В случае выхода из строя кулеров сервера его RAID-контроллер может разогреться до 75 градусов Цельсия и даже выше. Это нештатная ситуация и она случилась с оборудованием одного из клиентов. Аномальная температура блока была замечена заказчиком, поскольку он удалённо мониторил его параметр. Естественно первой реакций было недоумение – “Что у вас там, Сахара?”. Нет, не Сахара, просто вам надо отремонтировать сервер, кулеры которого не подтягивают нашу прохладу – у нас всегда 23 градуса.

Все снимки и видеоматериалы сделаны в дата-центре itsoft в Тушино в Москве. Сейчас в связи с пандемией экскурсии на объект приостановлены, но как только ограничения будут сняты – милости просим в гости. Ну, а заказчики могут прийти, как говорится без приглашения.

Мы нашли в решетке перышко. Орнитологи, что это за птица?

Дата-центр ITSOFT – размещение и аренда серверов и стоек в двух дата-центрах в Москве. За последние годы UPTIME составляет 100%. Размещение GPU-ферм и ASIC-майнеров, аренда GPU-серверов, лицензии связи, SSL-сертификаты, администрирование серверов и поддержка сайтов.

0
18 комментариев
Написать комментарий...
Topre

А можно еще добавить систему охлаждения туманом наружних блоков.

Ответить
Развернуть ветку
Михаил Анюков

Это уж слишком круто, давайте просто дешёвые шланги подключим и они просто лить на тротуар будут. Вот весело будет.

Ответить
Развернуть ветку
Topre

Особенно учитывая, что установка испарителей обычно на высоте более 4-5 метров или на крыше)

Но вообще такие системы с распылением по-настоящему эффективны (и экономят электроэнергию) только когда температура выше 25 градусов. За то позволяют сгладить вот такие пики температуры как сейчас. 
К примеру на 8 здоровенных чиллеров понадобится агрегат 3-4 кВт.
А падение температуры может быть до 10 градусов. К сожалению, я не знаю энергозатраты самих чиллеров при 25 и 35 градусах соответственно.

Ответить
Развернуть ветку
Andrey Vladimirsky

Может достаточно в самые жаркие дни просто человека с брандспойтом на крышу выгонять, чтобы он чиллеры поливал? Как я понимаю, что дополнительная мощность, которая позволит эффективно работать при 35, что установка по созданию тумана, обойдутся дороже 

Ответить
Развернуть ветку
Itsoft Web-studio
Автор

Мы не ищем легких путей. Позовем шамана, пусть он дождь накликает.

Ответить
Развернуть ветку
Topre

Ну можно, конечно)) 
Только эффективность совершенно разная - туман-то с очень мелкой каплей - она моментально испаряется и забирает тепло. 
А если человек будет мочить просто водой радиатор, то пока с самого радиатора не испарится влага - нет смысла еще раз поливать. В общем, от этого не много пользы... ну если только не в качестве наказания для сотрудников.

Бывают еще и некоторые ограничения по мощности, т.е. оборудование просто не справляется нормально с +35 градусов. А если уж учитывать риск потери питания и закладывать дизель-генераторы на мощность с учетом +35 градусов - это влетит в копеечку.

P.s. Ну а по поводу цены... это все очень относительно. Кто-то и для полива своего газона нанимает человека или кладет разбрызгиватели и передвигает их. А кто-то закапывает и делает все автоматически.
Да и опять же, на 5-6 испарителя система выйдет 150-250к. 

Ответить
Развернуть ветку
Itsoft Web-studio
Автор

Хорошее предложение.

Ответить
Развернуть ветку
Vladimir Goncharov

В иных местах есть график ППР, там кондеи выводят из эксплуатации, запускают резерв, моют, чистят и держат в резерве. Потом наоборот. А не моют на ходу керхером.

Ответить
Развернуть ветку
Itsoft Web-studio
Автор

Резерв есть. Это показательная порка, пардон чистка. Если вы заметили, то на решетке кондиционера нет ни одной пылинки. (Хотя вру - перышко мы нашли).

Ответить
Развернуть ветку
Ульрих фон Лихтенштейн

Перышко, бобра.

Ответить
Развернуть ветку
Jack Morositel

37,5 же был рекорд июня

Ответить
Развернуть ветку
Itsoft Web-studio
Автор

Нашел сведения о 35,9 градусах, но это в Санкт-Петербурге. В любом случае жарко.

Ответить
Развернуть ветку
Jack Morositel

Не нахожу сейчас тоже, но на днях новость видел где то, за адекватность источника не могу ничего рассказать... Но по ощущениям он не особо слукавил!

Ответить
Развернуть ветку
Itsoft Web-studio
Автор

10 минут шел в середине дня по улице. Спекся.

Ответить
Развернуть ветку
Jack Morositel

Не спорю, кошмарно жарко, передвигаюсь перебежками от кондея в доме до кондея в машине и наоборот 😂

Ответить
Развернуть ветку
Evgeni Nabokov

А мне римейк больше нравится
https://youtu.be/d3FClF4Mn3w

Ответить
Развернуть ветку
Itsoft Web-studio
Автор

(зимой действует Free cooling - охлаждение естественным наружным воздухом)

Ответить
Развернуть ветку
Михаил Анюков

Оригинал лучше

Ответить
Развернуть ветку
15 комментариев
Раскрывать всегда