Джарон Ланье: Кремниевая долина подсела на вашу зависимость. Три вопроса к любому ИИ-сервису перед оплатой

«Мы подсели на зависимость как на бизнес-модель. Мы сами стали зависимы от того самого, что вызывало зависимость у других людей». Это говорит не критик со стороны. Это Джарон Ланье, компьютерный учёный, который в восьмидесятые придумал термин «виртуальная реальность». Сегодня он главный объединяющий учёный в офисе технического директора Microsoft, компании, которая и сама продаёт ИИ-агентов. В интервью подкасту The Times Tech он обращается к своим друзьям по Кремниевой долине, и разговор вышел жёстким. Здесь я собрал то, что из него стоит вынести руководителю.

Коротко: три вопроса, которыми я теперь проверяю любой ИИ-сервис до того, как за него заплатить. Агент здесь это программа, которая сама выполняет цепочку действий без вас.

ИИ унаследовал от соцсетей механику привыкания, а ИИ-компании научились на ней зарабатывать. В 2018 году Ланье выпустил книгу с десятью аргументами удалить соцсети, и многие к ней прислушались. Его тезис тогда и сейчас один: если деньги делаются на манипуляции людьми, стимулы компании неизбежно темнеют. Манипулировать через компьютер проще всего на свете. Люди подсаживаются на свой чат. Делают из него психолога, подругу, делового партнёра. Ничего нового в этом нет. Ещё в шестидесятых программа «Элиза» просто переставляла слова собеседника, а люди видели в ней живого терапевта.

Ланье формулирует это так: «Стоит появиться информационной системе, которая тебе отвечает, и её очень легко превратить в машину манипуляции. Это ещё со времён соцсетей».

Если сотрудники проводят в чате с ИИ часы, спрашивайте не «сколько», а «зачем». Привычка к инструменту и польза от инструмента это разные вещи. Компания платит за второе.

За ИИ люди платят, и это, по иронии, именно то, чего Ланье когда-то хотел. Но радости у него нет. Генеративный ИИ, по его словам, пропускает труд и творчество всего человечества через шредер, и кажется, что всё придумала компания. Ведущий подкаста спросил: мы платим двадцать долларов в месяц за собственные же знания, перемешанные машиной? Ланье отвечает, что модель сама по себе как библиотека без библиотекарей. Она инертна, пока с ней что-то не сделают. А сделали из неё фальшивого человека. Картина выходит такая: нужны только OpenAI и Anthropic, остальные лишние, даже клиенты.

Для бизнеса отсюда неприятное следствие. Если вы просто перепродаёте ответ чата, ваша ценность стремится к нулю вместе с остальными.

Агент нужен там, где ИИ управляет чем-то в реальном времени. В большинстве других задач он, по Ланье, ничего не добавляет. Ведущий поднял идею, которую продвигают главы ИИ-компаний: мы создали новый вид, и у него есть моральный статус. Ланье говорит, что ему за это глубоко стыдно. Что живое, а что нет, это вопрос веры. Но для дела важны последствия. Объявили машину богом, значит, дали ей волю. А давать машине волю глупо.

Дальше его главный аргумент против моды на агентов. Нобелевская премия за структуру белков получена до этой моды: алгоритм искал среди вариантов, а не действовал сам. Агент оправдан в реанимации или в управлении дронами. Для рецептов, тренировок, портфеля акций и даже продуктивности компании агент, по его словам, не добавляет ничего. Это ритуал поклонения золотому тельцу, причём с побочкой: агенты ломают что-то и творят то, чего никто не просил.

Отсюда первый проверочный вопрос. Прежде чем платить за «агента», спросите продавца: что здесь требует действия в реальном времени? Если внятного ответа нет, вам продают инструмент под модным словом. Разницу между двумя подходами я разбирал в тексте про агента против чат-бота.

Нередко никуда, даже внутри самой ИИ-индустрии. Ведущий как раз вернулся из Техаса. Вокруг городка Ред-Оук строят семь дата-центров, и жители в ярости. Вода, пейзаж, электричество. И ради чего: чтобы белые воротнички потеряли работу и сели на базовый доход. Ланье называет это человеческим жертвоприношением. Мы решили, что бог так велик, что ему надо подносить людей.

Его мысль про изобилие стоит повесить над столом любого руководителя. Нельзя делать каждый шаг против цели и ждать, что последний шаг всё развернёт. Внутри Meta (признана в России экстремистской, её деятельность запрещена) сотрудников просили использовать ИИ по максимуму, но сокращать рабочие часы не разрешали. Если даже внутри индустрии экономия времени не превращается в свободу, где то волшебное событие, которое всё изменит? Про то же обещание, только с другой стороны, я писал в разборе слов Альтмана про работу час в день.

Проверьте себя. Куда в вашей компании уходят часы, сэкономленные ИИ, и видит ли их хоть кто-то, кроме отчёта о внедрении? Пока экономия не измерена в часах и деньгах, вы платите за ритуал, а не за результат.

Это способ просить у ИИ не готовый результат, а набор рычагов вокруг результата. Ведущий дал Ланье волшебную палочку: как бы он всё переделал? Ответ у него есть, и он тестирует его на себе. Проблема запроса в чат в том, что вы заказываете готовый результат и лишаете себя обучения, которое идёт в процессе работы. Настоящее творчество устроено иначе: подошёл близко, покрутил, попробовал, понял больше, снова покрутил. Поэтому Ланье просит у ИИ редактор для результатов в окрестности того, что ему нужно. Нужен двухминутный учебный ролик, и он просит шесть ползунков: детализация, исторические отсылки, техническая точность и другие.

Сам он оценивает метод осторожно: «Правильный ли именно этот метод, сказать не могу. Слишком рано. Но он даёт человеку определённое авторство, определённую роль». И ещё одна его фраза, которую я запомнил: «Ты автор того, что выбираешь».

Переведём на язык бизнеса. Вместо просьбы «напиши коммерческое предложение» просите рычаги: тон, длина, цена, размер скидки. Пока вы двигаете рычаги, вы не разгружаете голову, а прокачиваете интуицию. И автор результата однозначно вы. Как не отдать нейросети авторство, мы разбирали в трёх правилах из выпуска про Петухова. Здесь рождаются второй и третий проверочные вопросы: кто автор итога, и растёт ли ваша компетенция от инструмента или тает. О том, почему ИИ ослабляет память, у нас тоже есть отдельный разговор.

Ланье называет три причины. Первая: ещё двадцать-тридцать лет назад в долине поняли, что код станет новым законом и культурой. Через интерфейс вы можете только то, что в него заложено, а государство, кино и журналистика стали помехой, которую можно стереть. Одни хотели новой эры демократии. Другие, среди них Питер Тиль, решили: так мы получим то, чего демократия не даст. Вторая причина: сетевые эффекты, когда сеть ценнее с каждым новым пользователем, рождают монополии и мегамощных одиночек во главе. И эти люди сами подсели на свои устройства. Ланье считает, что Twitter изменил Илона Маска, сделав его более узким и жёстким.

Третья и главная: в этой среде нельзя спорить изнутри. Несогласные из Meta, Google, OpenAI и Anthropic вынуждены уходить. Ланье говорит, что думает, и не от имени Microsoft. Последствий нет: акции целы, компания не рухнула. Сообщество, которое запрещает несогласие, сужается, пока не завяжется в узел и не сорвётся в нелепость. Про Anthropic у него отдельное мнение. Там, по его словам, лучшие люди отрасли, но и самая религиозная позиция, вплоть до команд по благополучию модели. Цитирую: «Когда ты внутри сообщества глубокой веры, теряешь перспективу». Это его оценка, не моя.

Нашему времени он уже придумал название: «Если мы выживем, будущие историки оглянутся на это время и назовут его эпохой тупых инженеров».

Если в вашей компании несогласие возможно только через увольнение, вы уже в культе.

Solaris AI строит ИИ-агентов для компаний, а Ланье говорит, что в большинстве бизнес-задач агенты не нужны. Прятать это противоречие я не буду. Ланье во многом прав. Агента ради моды покупать не надо. Если задача решается обычным инструментом, агент там не нужен.

Но по его критерию реального времени большая часть наших агентов была бы лишней. Тут мы расходимся, и вот почему. Агент оправдан там, где каждый день повторяется одна и та же цепочка действий в нескольких системах, и человек тратит время на перенос данных из одного окна в другое. В такой работе нет мысли, которую вы хотите сохранить за собой. Есть рутина, и её можно отдать программе. Претензию Ланье, что агенты ломают что-то и делают то, чего не просили, я считаю справедливой: поэтому агенту нужны узкие права, а результат проверяет человек. А там, где важна мысль (текст, решение, стратегия), нужен инструмент с рычагами, и решение остаётся за человеком. Вопрос «куда уходят сэкономленные часы» мы задаём и себе. Если после внедрения эти часы нигде не видны, значит, мы сделали что-то не то, и это повод вернуться к задаче.

Ланье формулирует выбор так: нам нужен оракул в Дельфах или Александрийская библиотека? Оракулу поклоняются и верят на слово. Библиотекой пользуются. Для предпринимателя это разница между подпиской на ритуал и вложением в собственную голову.

Учиться ставить задачи ИИ и оставаться автором результата можно в Академии Solaris AI. Там разбирают, как считать эффект от внедрения ИИ. Проверить, нужен ли агент в вашей задаче, можно в боте Solaris AI. Он пришлёт 12 вопросов, которые стоит задать перед внедрением ИИ, и предложит разбор вашей задачи на 20 минут.

Ланье остаётся мрачным оптимистом: человечество переживало глупости и похуже, пройдём и эту, но без потерь не обойдётся. Я бы добавил: размер потерь зависит от того, какие вопросы мы задаём сейчас, до оплаты, а не после.