Сколько стоит интеллект: от инфоцыганских конструкторов до корпоративных монстров
Недавно увидел новость про Ozon и их планы на ИИ-ассистента. Они готовы потратить на это десятки миллионов долларов. А в Instagram тем временем продают курсы в которых обещают научить тебя делать ИИ-агентов за 15 минут и зарабатывать с каждого по 300-500$ и стать миллионерами. Поэтому я решил вам рассказать простыми словами как все устроено.
Всё упирается в данные и возможности. Решения за 500$ обычно собирают на конструкторах вроде n8n (нэйтн). Подключают ChatGPT, и он отвечает на сайте или в Telegram-боте. Бот действительно отвечает, но тем, что заложили в него разработчики OpenAI. Знает всё на свете знает, кроме вашего бизнеса, товаров и услуг. Получается, болтливый, но бесполезный инструмент.
Чтобы ИИ-Ассистент наконец заговорил про ваш бизнес, его нужно научить.
Есть два сценария.
Первый — пихать инфу о бизнесе в каждый запрос (у всех GPT нейросеток есть «контекстное окно»: чем длиннее диалог, тем больше символов, тем дороже каждый следующий вопрос в этом диалоге). С сотнями диалогов счёт за расходуемые токены растет с геометрической прогрессией (на этом и строится модель монетизации нейросетей).
Второй сценарий — поднять свою модель и доучить её (fine-tuning). Тут вместо токенов платишь за специалистов и железо.
Специалисты. ML-инженер (machine learning), который умеет работать с такими технологиями, от 4000₽/час, а в штате на ЗП минимум от 400К. Но проблема в том, что их мало, они на вес золота и знают себе цену.
И один такой инженер бесполезен без команды. Нужен project manager, аналитик для данных, MLOps (специалист по эксплуатации ML-моделей), плюс бэкенд/фронтенд разработчики. Для простого MVP (минимально жизнеспособный продукт, чтобы протестировать идею) – 4-5 человек и 1,2-1,5 млн руб в месяц.
Инфраструктура. ИИ – это обработка огромных объёмов данных, для чего нужны мощные серверы с GPU (графическими процессорами, они же видеокарты). Nvidia сейчас самая дорогая компания мира именно из-за этого – их чипы везде в ИИ. Купить в России такую видеокарту - это несколько миллионов рублей, плюс ждать месяцами. Крупные ЦОД (центры обработки данных) всё выгребают и сдают их в аренду по 250-500 руб/час. За границей дешевле, но 152-ФЗ (закон о персональных данных) требует хранить всё на Родине, так что варианты для некоторых бизнесов ограничены. Конечно, с компетентной командой можно оптимизировать расходы на железо, но порядок цифр примерно такой.
В итоге ИИ-агент за 30-50 тысяч рублей – это конструктор с готовыми интеграциями для простых задач, таких как уведомления об изменениях в таблице, ответы на FAQ, запись в календарь и тд. Да, это автоматизация и для задач микробизнеса это отличное решение. Но если задачи масштабнее, то и чеки будут совсем другие.
Поэтому, когда кто-нибудь предложит вам «ИИ-агента за 30 тысяч», вспомните эту короткую экскурсию в реальность. Знания, люди, железо — все хотят денег.