Очень частый вопрос про датацентр — зачем это нужно в мире, где есть антропик и опенай?
Вопрос более чем валидный. Хочу дать на него ответ.
Антропик и Опенай делают универсальные модели дорого. Для прогеров и R&D эти цены посильны (но и то на грани), а для операционки — туши свет. Бизнесы не вывозят платить такие косты и хотят брать специализированные модели под задачи.
- Но можно же юзать оупенроутер!
Да, можно. Но опенроутер дает голый инференс. То есть ноль сервиса. Бизнесу нужно звонки от клиентов разбирать, а ему дают апи и говорят, что вот это решает его задачу. Но правда в том, что товарищу на том конце провода даже непонятно слово апи 🙂 Это вы все тут умные и в вайбкодингах, 95% народа на земле про это ничего не знает.
Поэтому идем дальше: нужно давать сервисы, а не просто токены. То есть конечному клиенту нужен продукт, решающий его задачу.
- Ну вот, нахера вы делаете датацентр, делайте продукты!
А вот тут мякотка. В продуктах нет moat - то есть, несмотря на то, что клиенту нужен продукт, навайбкодить продукт сейчас быстро. Это мир совершенной конкуренции. А маржа будет делаться на инференсе без которого продукт просто не работает.
- И что же в итоге?
Очень просто. Мы делаем готовые продукты для бизнеса, и даем их дешево или почти бесплатно. А зарабатываем на токенах для того, чтобы эти продукты работали. Со своим инференсом, иначе маржа будет 10% как реселлеру, а не 90% как провайдеру 🙂 И покрываем конкретные специализированные ниши, в которые просто неэффективно лезть с дорогущим железом.
Хетцнер в мире AI инференса.
И вот в чем именно отличие от опенай и от того, чтобы просто набить видеокартами очередной датацентр. Интересно — пишите, собираем раунд, чеки от $50к.