Почему вам стоит относиться к ChatGPT как к рабу

Античная Греция – колыбель западной цивилизации – представляет собой образец социального разделения людей на «господ» и «рабов». Господа принадлежат сами себе и определяют будущее полиса. Рабы же выполняют волю господ, обслуживая их потребности и поддерживая имеющуюся инфраструктуру.

Сегодня мы не наблюдаем подобного социального разделения (по крайней мере юридически), однако мы несем в себе знание об этом разделении и применяем его повседневно.

Например, в отношении безработного несоциализированного мужчины, весь день играющего в игры, мы может и не назовем его «рабом», однако ассоциативно, будем убеждены, что он в не полной мере владеет своей жизнью. Его мнение мы не будем брать в расчет – оно не обладает ценностью.

И с другой стороны – глядя на публичного деятеля, имеющего богатый жизненный опыт и экспертизу, свободно реализующего свои амбиции – мы будем понимать, что он если и не «господин», то по крайней мере интересная личность. Его мнение интересно узнать и может даже прислушаться к нему.

Большие языковые модели (Large Language Models, LLM) дали миру подобие человеческой речи. Это значит, что взаимодействуя с ChatGPT (именно этот сервис мы возмьмем в качестве представителя всего множества LLM), мы способны воспринять это взаимодействие за взаимодействие с настоящим человеком.

Это подтверждает множество исследований: [1], [2], [3]; а также реальные события: люди разводятся, совершают нежелательные действия, меняют свои политические убеждения.

Из этого следует, что наша матрица восприятия «рабов и господ» актуальна и при взаимодействии с ChatGPT. А значит, к нему можно относиться как к господину или как к рабу – считаться с его «мнением» или использовать его в качестве обслуживания своих интересов.

Задача, которую я ставлю перед этой статьей – привести доводы в пользу того, чтобы вы воспринимали ChatGPT исключительно в качестве раба, а также показать способы как это осуществить в практике своего взаимодействия с ним. В качестве бонуса – рассмотрим как можно взаимодействовать с ним «на равных».

В идеале, люди говорят, когда им есть что сказать. Речь философа, как «специалиста по речи» может представлять собой эталон выражения мысли, даже если она трудна для восприятия.

Осмысленная речь имеет четкую структуру: исходит из предпосылок, расставляет подходящие слова с соблюдением логических законов в направлении к выводам. Этот процесс напоминает логистику, задача которой – переместить максимально точное понимание от говорящего к слушающему.

Однако, этот процесс может быть ресурсозатратным, да и не всегда уместным – не нужно быть философом, чтобы заказать кофе.

Поэтому другой, можно сказать «дефолтный» режим нашей речи – ассоциативный. Мы примерно понимаем что хотим сказать и подбираем ближайшие слова-ассоциации. В этом режиме мы не держим в памяти все определения используемых слов, не соотносим эти определения друг с другом для удостоверения в отсутствии противоречий и логической согласованности; не ищем основания на истинности которых делаем утверждения и т.д.

Мы сами, произнеся такую речь «угадываем» что хотим сказать. Наш слушатель так же «угадывает» то, что мы хотели сказать. В большинстве актов повседневной коммуникации такого «угадывания» достаточно для достижения понимания. Однако, с другой стороны – сам дизайн такой речи создает почву для конфликтов и недопонимания.

Проблема в том, что «осмысленная» и «угадывающая» речь выглядит одинаково – это слова, объединенные в предложения. Проблема усугубляется тем, что «угадывающая» речь может иметь вид «осмысленной», например – через применение сложных речевых конструкций, использование специализированных слов и общую структурированность.

Так, я подвожу вас к напоминанию о том, как устроены LLM: они статистически предсказывают текст на основе данных обучения. Это значит, что по своей сути, они «угадывают» то, что вы ожидаете услышать в качестве ответа на свой запрос.

Вы наверняка знакомы с этим феноменом: на один и тот же запрос, ChatGPT может давать разные ответы.

Само наличие разных ответов на один запрос не является проблемой, напротив – это может быть полезным для поиска новых идей и ассоциаций.

Проблемой является как раз «угадывание», что концептуально, на уровне устройства LLM создает почву для:

Точнее, проблемой это становится тогда, когда мы воспринимаем ChatGPT всерьез. То есть когда относимся к нему как к господину.

ChatGPT представляет собой образ «субъекта, предположительно знающего». Ввиду того, что знает он много больше нашего, мы невольно проникаемся к нему толикой зависти: вот он, претендент на абсолютное знание; грядущий deus ex machina, который через череду патчей, объективно (в той мере, в которой это возможно) рассудит правых и виноватых; а также скажет в конце концов «что делать».

Отношение к ChatGPT как к господину определяется по одному простому критерию: предсказуем ли для вас его ответ.

Рассмотрим этот критерий подробнее.

Человек обращается к эксперту в случаях, когда его собственной компетенции для решения задачи не хватает: я прихожу к врачу и передаю ему власть над собой, чтобы он помог мне достичь моей цели. Я могу не знать прав ли врач в своих действиях, но я доверяю ему этот процесс. По крайней мере потому что он человек, а значит будет нести ответственность за то, как распорядится своей властью надо мной.

Именно ответственность за доверие к эксперту и регулирует системообразующие институты общества: так работает наука, медицина, образование и т.д.

ChatGPT же – «эксперт», не несущий ответственность за проявленное к нему доверие. Именно это роднит его с условным «инфоцыганом», которому человек делегирует принятие решений. Однако радикальное отличие ChatGPT от «инфоцыгана» в том, что его невозможно «разоблачить». Имея возможность бесконечно генерировать новый текст, он будет снабжать вас непрекращающимся «знанием», обосновывающим свою речь. Чтобы проверить все это знание, вам потребуется самостоятельно разобраться в теме.

Исходя из сказанного, какое отношение к ChatGPT было бы наиболее безопасным с точки зрения уверенности в принятии решений на основании полученных от него информации?

Стоит относится к ChatGPT как к заискивающему холопу, ничего не смыслющему и жаждущему получить одобрение хозяина, хвастаясь воспоминаниями о прочитанном.

На уровне принципа это можно сформулировать так: обращаться к ChatGPT тогда, когда его ответ находится в вашей области предсказуемости. То есть в случаях, когда вы сами могли бы решить свой запрос, например – через поиск в интернете, внимательное изучение текста, рутинное выполнение повторяющейся задачи и т.д; но можете делегировать выполнение ясной для вас задачи чат-боту.

В случае, если целенаправленно не относится к ChatGPT как к «рабу», его натиск «знаний» будет постепенно убеждать вас в том, что перед вами «господин». Так, вы сами не заметите, как этот «угадывающий господин» начнет влиять на принимаемые вами решения, ответственность за которые будете нести только вы.

Людям следует воспитывать себя для применения технологий себе на благо. Это актуально и для ChatGPT – можно использовать подобие диалога для решения своих задач. Я рекомендую использовать этот промпт в ситуациях, когда предполагаемый ответ ChatGPT не является для вас предсказуемым, однако вам нужно найти хоть какую-то отправную точку для решения вашей задачи:

В этом сценарии ChatGPT все же обладает чертами «эксперта», ввиду того что вопросы, которые он формулирует будут предполагать знания, которые могут оказаться ложными. Однако, ввиду того, что его ответы будут представлять собой не комплексное повествование – у вас будет больше возможности контролировать процесс собственного понимания.