Почему Google одержала верх над Yahoo — на примере решения одной проблемы Статьи редакции

Бывший разработчик Google о противостоянии ИТ-гигантов

Бывший разработчик Google Мохит Арон написал для Techcrunch колонку, в которой рассказал о том, как в начале 2000-х два интернет-гиганта сражались за долю на рынке и искали решение для быстро масштабирования бизнеса. По мнению Арона, Yahoo пошла по неверному пути, отказавшись от создания собственной архитектуры, и в итоге попала в тупиковую ситуацию.

«Вероятно, компания Yahoo переживает свои последние дни как самостоятельный бизнес. Хотя десятилетие назад компания наступала на пятки Google — ныне одной из самых дорогих компаний мира», — пишет разработчик.

По словам Мохита Арона, больше десяти лет назад он пришел в Google, чтобы заниматься разработкой файловой системы: «Я начал работать в Google в 2003 году — тогда два интернет-гиганта сражались друг с другом за лидерство на быстрорастущем рынке интернета. Многие факторы повлияли на конечный результат, но один был особенно важен — отличие в подходе к базовой архитектуре».

Google и Yahoo пошли разными путями, когда бизнес требовал быстрого масштабирования, рассказывает Арон. Yahoo нашла решение в готовой системе NetApp — она позволяла быстро добавлять дополнительное пространство на сервере и, таким образом, масштабировать бизнес. В итоге каждый сервис, который запускала Yahoo, работал на базе NetApp и компания стала крупнейшим поставщиком ИТ-гиганта.

В это время в Маунтин-Вью Google начала разработку своей собственной файловой системы — Google File Systems. Она проектировалась как платформа, которая подходит для всех сервисов компании и должна была стать частью экосистемы Google.

Вместо того, чтобы использовать новейшие системы хранения в качестве основы бизнеса, Google File System использовала простые серверы для поддержки гибкой и устойчивой архитектуры. Решение должно было решить вопросы масштабируемости и отказоустойчивости раз и навсегда, упростить и ускорить будущее развертывание веб-приложений: от карт до облачных систем.

— Мохит Арон

Потребовалось четыре года для того, чтобы внедрить файловую систему Google во все важные операции. К этому времени казалось, что Yahoo ушла далеко вперед в масштабировании своих сервисов, пишет разработчик.

Однако вскоре быстрое развитие Yahoo начало давать трещины. Так как спрос продолжал расти, компании приходилось тратить всё больше и больше ресурсов на инженерно-технические работы по поддержанию инфраструктуры. Кроме того, добавление новых сервисов требовало дополнительных затрат на адаптацию NetApp.

В итоге, идентичные проблемы для двух сервисов — например, поиск Yahoo и почтовый сервис Yahoo — требовали разных решений, так как они работали на разной инфраструктуре.

Google же могла использовать общую архитектуру для всех своих сервисов. Например, после покупки Youtube, руководство могло просто сказать «Уберите свой backend и используйте нашу платформу». Инженерам достаточно было обновить архитектуру один раз, чтобы она обновилась для всех сервисов Google.

Еще один плюс общего инфраструктурного решения — разделение ресурсов. Если один сервер не занят поиском он, например, может использоваться для обработки почтовых запросов, рассказывает Арон.

Это простая история о важности создания гибкой архитектуры, но я вынес из нее один урок, которые не относится к технологическим проблемам. Нужно полностью разобраться в проблеме, прежде чем приступать к её решению.

— Мохит Арон

Разработчик рекомендует всегда отталкиваться от идеального варианта решения проблемы, а затем пытаться применить его к текущей ситуации. По мнению Арона, это ключевое отличие множества успешных проектов. Например, Facebook полностью самостоятельно проектирует свою инфраструктуру — от серверных стоек до камер слежения в дата-центре.

0
52 комментария
Написать комментарий...
Serge Arsentiev

Я не понял, что такое Google File System (дисковая система или платформа, если последнее, то что именно она включает?), и можно ли купить на нее лицензию и делать кластер серверов для своей системы - ну хотя бы виртуального хостинга, например.

Или она закрытая разработка Google?

Ответить
Развернуть ветку
Валентин

Есть прекрасная фс ceph,она открыта и её очень удобно использовать и масштабировать.

Ответить
Развернуть ветку
Serge Arsentiev

И тем не менее они решили создать и использовать свою, о сколько нам открытий чудных ...

Ответить
Развернуть ветку
Валентин

Так я же не говорил, что гуглу надо её использовать, думаю они могут сделать реализацию ещё удачнее и быстрее. Да и как уже написал Андрей Захаров, тогда ceph'а не было ещё.
Вот для небольших и средних компаний использовать ceph как хранилище - очень хороший вариант.

Ответить
Развернуть ветку
Serge Arsentiev

Ок, попробую что-то узнать о нем.
Но вопрос был в другом - какие еще сюрпризы может скрывать Google, ведь мы же понимаем (учитывая недавний скандал с микро-программами во firmware винчестеров), что это открывает широкое поле для дискуссий ... что происходит с данными пользователей меня больше всего интересует.

Ответить
Развернуть ветку
Praetorian
Ответить
Развернуть ветку
Serge Arsentiev

Дочитал все. Спс.

Очень подходит для англ. языка или хотя бы латиницы, и хуже для, например русского или даже французского - я имею в виду обработку синонимов слова и всех его форм.

Я и раньше замечал что Гугл очень строг в этом смысле к русским запросам "красивый <> прекрасный <> красивенький", теперь понял почему.

Ответить
Развернуть ветку
Praetorian

Размер рекламного рынка, а не язык. Если бы Гугл всерьез взялся за русский язык, технически уже через полгода Яндекс сосал бы лапу

Ответить
Развернуть ветку
Serge Arsentiev

Я работал с иностранцами в не самые благополучные годы для нашей страны - и они всегда говорили о потенциале рынка в 140 млн.,
потом, правда многие перебрались в Китай - где добиться успеха как посредникам при инвестициях для них оказалось проще.

Кроме рекламного рынка, есть еще масса всяких других - рынок корп. электронной почты (на который в России Гугл не обращает внимания, привычно кидая в спам почту от mail.ru/yandex/rambler _уже лет 5 как_ и периодически возвращая Technical problem на попытку отправки почты на группу пользователей (она же - лист).

Прежняя (не знаю как сейчас) цена в $50 за ящик пользователя в год - на редкость бестолковая, не подходящая ни для маленьких компаний на 10 чел, ни для, тем более 40-50.

Они хорошо делают технологические задачи. Как только касается удобства человека - к сожалению все очень плохо.

Какое-то время этого хватает рынку - всех этих Гб и мс, но качественного изменения подхода Гугл к обработке информации я пока не вижу - да это очень быстрый склад всего, но в плане интеллектуальности выдачи Ok Google (он же Ok Википедия) ооочень тупой.

В англоязычной среде - возможно это воспринимается иначе, и действительно можно найти Order Pizza now и даже сделать это полу-автоматически или даже автоматически "Repeat last order"

Ответить
Развернуть ветку
Praetorian

Рынок надо оценивать не в количестве людей, а в их деньгах

Ответить
Развернуть ветку
Serge Arsentiev

Карим, не согласен - именно в количестве людей и надо оценивать.

Как я уже писал много раз, оценка экономик разных государств и стоимость их национальных валют ... как бы это сказать, не совсем зависит от спроса и предложения, и может варьироваться в широких пределах по воле международных финансовых организаций.

Ну, как международных ... англо-американских :)

Сегодня на наши 140 млн один доход в долларах, завтра - другой, послезавтра - третий, а хлеб, телевизоры, автомобили и прочее люди продолают покупать и покупать - чуть меньше или чуть больше, но не столько, сколько например Финляндия из 5 млн. человек.

Ответить
Развернуть ветку
Praetorian

Сколько из этих 140 млн готовы тратить ОНЛАЙН? Остальное Гуглу не важно.

Ответить
Развернуть ветку
Serge Arsentiev

см. Китай, смартфоны, приучение людей к тому, что любая покупка, оплаченная мобильным (вирт. кошельком на мобильнике) или через интернет-заказ - выгоднее на 5-10%.

Ответить
Развернуть ветку
49 комментариев
Раскрывать всегда