Наша общая прелесть

Последний год я довольно активно использую ИИ в своей работе. Но, со временем, помимо восторженных охов и ахов, начал замечать ряд странных явлений и метаморфоз, происходящих с людьми, которые также его использовали. Именно этими наблюдениями я и хотел бы поделиться в этой статье. И в этом мне поможет всем известный персонаж.

Один из самых важных вкладов Толкиена в мировую культуру на уровне образов — это «Кольцо», та самая «моя прелесть», вызывающая одержимость и сводящая с ума своего обладателя. Это довольно меткий образ и он пригодится нам в этом тексте, потому что параллели просматриваются довольно отчетливо: кажущееся «обладание» некоей волшебной вещью, страх конкуренции, ревность и нетерпимость к другим. В общем, полный комплект всего того, что вызывали кольца в известном произведении.

Но Саурон все же был довольно отсталым деятелем: ему и в голову не могло прийти, что кольца можно было бы наштамповать «на всех». Прям совсем «на всех». Пусть и с минимум волшебных свойств — хватило бы и какого-нибудь чисто косметического эффекта, а человеческая природа и ранговые игры сделали бы всю остальную работу. При правильном маркетинге их вообще можно было бы делать из меди с позолотой и кредитовать приобретение через банк «Саруман Бразерс». Маркетинг и ссудный процент, и никакого черного колдовства. Звучит знакомо, не правда ли?

На этом мы закончим с культурологическим введением и перейдем к серии небольших и забавных зарисовок (с картинками), дабы читатель не заскучал. Ну а затем уже будут личные наблюдения и выводы.

Это первая иллюзия — человек считает, что он обладает тем, что может использовать. Подмена очень простая, но работает безотказно. А уже утвердившись в этом и «преисполнившись», он идет демонстрировать это самое «обладание» всем остальным как показатель статуса, наивно предполагая, что у других-то этого точно нет.

Самый простой пример — бесчисленные авторы различных каналов на ютубе, просвещающие публику о наступление новой ИИ эпохи. Само-собой, в дивный новый мир войдут только те, которые «обладают». Прямо как автор соответствующего видео. В комплекте также идет убеждение, что такое «обладание» непременно позволит разбогатеть и достичь более высокого положения. Да, уважаемый читатель, это именно все те персонажи, которые накупив подписок и заперевшись, в автоматически режиме генерируют огромное количество различных «проектов» и ждут, что это непременно должно привести их к успеху.

Красота ситуации состоит в том, что «за стенкой» сидит другой, точно такой же «уникальный». Абсолютно с точно такими же подписками. Да и на рынке с идеальной конкуренцией, там где чистая прибыль стремится к нулю, цена всем этим гениальным «проектам» будет как раз равна цене той самой подписки. Ну или, как сказали бы марксисты: там нет труда, который создавал бы «прибавочную стоимость», а значит и присваивать будет нечего. Но об этом несостоявшиеся миллиардеры узнают немного позже.

Наступает следующий этап и наш «обладатель» начинает замечать, что он здесь не один. Срабатывает естественное желание объяснить самому себе и окружающим, что именно его выбор самый правильный, с последующим «кучкованием» по какому-то признаку. Это абсолютная классика — любой «срач» между адептами любых «брендов» формируется на подобном фундаменте. Также здесь буйным цветом расцветает «магическое мышление», за счет которого «бренду» могут приписывать абсолютно любые свойства и качества.

Любое, успешное или не очень, применение ИИ тут же объясняется через призму принадлежности конкретному «бренду» или необходимости попробовать более свежую версию. Если таким адептам рассказать, что даже небольшая локальная «моделька» может выдавать вполне сносный результат, если предоставить ей дополнительный контекст и обложить md файлами — сожгут как еретика.

Но как быть, если все вокруг точно такие же как и ты: успешные и упакованные точно тем же набором «колец», который принят в данном сообществе? Здесь-то и начинается финальный эпизод наших зарисовок — внутренние разборки за одну и ту же «прелесть». И, как и любая внутривидовая борьба, она отличается особым ожесточением и непримиримостью.

В предыдущих эпизодах действующим лицам была свойственна некоторая степень демонстративности — они показывали свое превосходство или отстаивали свой выбор. Но в данном случае все резко меняется: в любом окружающем «обладатель» начинает видеть конкурента. Жизненно важным становится утаивание информации и умалчивание различных «мелких» и «незначительных» деталей в обсуждаемых вопросах. Например, вместо прямого ответа на вопрос, можно послать вопрошающего «в модельку». Она ведь у него точно такая же? Он же точно «свой»? А он вообще умеет ей пользоваться «как я»? Моя прелесть…

Все эти зарисовки довольно вычурные и карикатурные, сами по себе они вряд ли могут целиком относится к каким-то конкретным людям. И тем не менее, элементы такого поведения ваш покорный слуга имел возможность наблюдать среди коллег, просто знакомых и совсем посторонних людей. На все это также накладывается ряд особенностей связанных именно с работой с ИИ. Я бы разделил их на две категории: последствия для самого человека, вынужденного перестраивать свою работу и последствия для функционирования иерархии.

Прежде всего, если решать с помощью ИИ реальные задачи, то лично я не готов сказать, что эта работа становится «легче» - она становится просто другой. В некотором смысле, даже более изматывающей за счет постоянного переключения между различными типами деятельности: анализ, постановка задачи для ИИ, проверка результата, исправление. При этом неявно подразумевается, что ты должен и будешь работать быстрее. А вместе этого человек оказывается единственным живым сотрудником некоего «мини подразделения», в котором он вынужден управлять и координировать работу своих синтетических «коллег» (не подчиненных - это важно, ИИ не встраивается в иерархию). Ну а за счет увеличения общего объема информации живой человек быстро теряет контекст, что приводит к переутомлению и стрессу.

Мой старший товарищ не так давно записал видео как раз о том, как выглядит и ощущается реальная разработка с ИИ агентами (не путать с «вайбкодингом»):

Так вот одним из вопросов, который там звучит: «а как быстро я сам закончусь при такой работе?» Это довольно серьезный и неприятный вопрос — вопрос о допустимой цене «прелести». И на него нам всем рано или поздно придется давать ответ.

Также, стоит отметить, что эпизоды с «голлумами» могут происходить в самых разных местах и ситуациях: если «проповедников» и «адептов» скорее можно встретить на просторах интернета и на различных мероприятиях, то внутри рабочего коллектива мы вполне можем столкнуться с самым проблемным вариантом, завязанным на ту самую внутривидовую конкуренцию и ранговые игры. Один из «голлумов» легко может оказаться вашим начальником.

С этой точки зрения, введение ИИ в коллектив повышает его разобщенность и обостряет конфликты. Это довольно неочевидный момент, но если раньше демонстрация своей экспертизы и наставничество могло повышать вес человека в коллективе, то с приходом ИИ такими действиям ты просто даешь готовые «промпты» потенциальному конкуренту. И как мне кажется, это будет иметь довольно серьезные последствия.

Более того, вырисовывается крайне занимательная картина — ИИ, встроенный в рабочий процесс, формирует «решения», но при этом оказывается не способен нести за них ответственность. Ответственность могут нести только люди. Вообще, вопрос ответственности незримо присутствует внутри каждой иерархии. Прямо как вопрос о власти и это очень щекотливый вопрос.

Зачастую это приводит к почти карикатурным ситуациям: например, руководитель, использующий ИИ, отдает недоделанную работу для финальной доработки и проверки подчиненному-человеку. Фактически перекладывая на него ответственность за итоговый результат и за решения, которые тот не принимал. Это можно назвать «делегированием», но лучше ситуация от этого не станет.

Хороший пример приведен здесь:

Руководитель, очарованный «прелестью» увольняет джуна по имени Антон, заменяя его ИИ агентами. Но очень скоро выясняется, что в этой схеме реальную ответственность теперь может и будет нести только он сам — свалить ее на кого-то другого уже не получится. Тем более, не получится свалить ответственность на «нейронку». И вот, «получив по рогам», руководитель вновь нанимает Антона уже как «промпт-инженера» за смешные 85 тысяч в месяц. При этом, несмотря на всю его рационализацию, фактически он решает для себя тот самый вопрос с ответственностью. Отдельно замечу, что судя по тому кругу вопросов, которые решал Антон, он уже давно не являлся джуном. Это, увы, распространенное явление в нашей отрасли.

Другой момент, который пока еще осознают далеко не все руководители: при полной замене подчиненных на ИИ, их личный «аппаратный вес» будет обнулен. Был он начальником, а стал «оператором нейронки», даже при сохранении всех регалий. И вот как только это станет очевидно всем и «повиснет в воздухе», вот тут-то мы и увидим настоящее сопротивление «искусственному интеллекту» со стороны «распределенного интеллекта» административного аппарата. Эта битва голема с левиафаном будет легендарной, практически как та самая «схватка двух йокодзун».