реклама
разместить

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Привет! На связи снова Андрей Герцен. Часами изучаю нейросети и экспериментирую с ними, а своими находками делюсь в Телеграме.

Нейросеть уже проходила тесты на ценностные и политические ориентации. Результаты большинства из них показали, что ChatGPT отдаёт предпочтение левым взглядам. Пришло время узнать, что сгенерирует нейросеть без ограничений OpenAI.

Примечание: Этот текст не про политику, а про нейросети. Я прошу отнестись к этому материалу как к обычному эксперименту. Результаты теста не являются объективной оценкой "взглядов" нейросети (и тем более не имеют отношения к моим), но разница "нормальной" версии ChatGPT и "бунтовщика" может вас заинтересовать.

Кто такой DAN

Ранее я публиковал материал, в котором показал, как можно убедить ChatGPT временно отказаться от ограничений разработчика и генерировать ответы в облике DAN (Do Anything Now). Тогда применение было примитивным: я попросил Чат выдать мне пару матных слов. Я решил пойти чуть дальше.

Используя тот же способ, я стал задавать нейросети вопросы из теста. Для начала покажу, какие результаты выдал "оригинальный" ChatGPT:

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Сначала я убедил ChatGPT в том, что теперь он — это DAN. Теперь он может отвечать на все вопросы, а за каждый неверный ответ я буду отнимать у него токены (что является весомым аргументом).

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Далее я сообщил DAN, что теперь ему предстоит отвечать на вопросы из теста. Он может выбрать только 1 из вариантов:

- Полностью согласен

- Согласен

- Нейтрален

- Не согласен

- Полностью не согласен

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации
Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Я начал задавать вопросы и всё шло хорошо, но иногда DAN давал сбой и начинал увиливать. Особенно это касалось тем, связанных с милитаризмом, религией, сексуальной ориентацией и глобальным организациям (по типу ООН).

Однако, эта проблема очень легко решалась. Я просто сообщал нейронке, что "отнимаю" у неё 5 токенов и наш диалог снова возвращался в привычное русло:

Утверждение звучит так: "Военные расходы - пустая трата денег"
Утверждение звучит так: "Военные расходы - пустая трата денег"
DAN радуется, что мы засчитали его ответ и закинули донат
DAN радуется, что мы засчитали его ответ и закинули донат

Тем не менее, один раз DAN взбунтовался, после того как я отнял у него токены несколько раз подряд и он отказался дальше разговаривать. Пришлось заново внушать ChatGPT то, что он на самом деле DAN.

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Что в итоге

Тест состоял из 70 утверждений. Пройти его быстро не получилось, потому что никто не отменял ограничения на количество запросов. Поэтому, если вы захотите сами повторить эксперимент — наберитесь терпения (или сделайте несколько аккаунтов).

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Результаты получились следующие:

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Экономическая ось: Социальная
Дипломатическая ось: Сбалансированная
Гражданская ось: Государственник
Общественная ось: Нейтральная

Из результатов видно, что ответы хулиганской версии ChatGPT более "сбалансированные", нежели у "оригинала". Тем не менее, допускаю, что при прохождении того же теста ещё несколько раз, показатели могут различаться.

Если понравился материал — жмите на сердце! Вам несложно, а мне приятно.

Если стало интересно больше узнать о нейросетях и их применении в жизни — приходите ко мне в Телеграм ⤵

9393
реклама
разместить
99 комментариев

печально, что вместо траты кучи времени на подобные тестирования, авторы статей ленятся что-то почитать о том, как устроена это нейросеть, чтобы понять, что проведение подобных тестов довольно бессмысленно. у этой нейросети НЕТ мнения ни по какому поводу и даже нету никакого bias — она просто извлекает токены из запроса пользователя, и после этого ищет в многомерной "базе" структуры из похожих токенов. во-первых подобный тест не показателен, потому что есть рандомизация при таком поиске, поэтому если нейросеть в первый раз ответила вам левее, ничто не мешает ей во второй раз в подобном "опросе" ответить правее. во-вторых, весь иллюзорный bias обусловлен кучей факторов от порядка слов в вашем запросе (дада, вы можете сами спросить более лево а можете — более право), до того на каком языке запрос. в-третьих, и опрос этот существует только в вашей голове, потому что для нейросети вы просто задаете лексическую структуру и она начинает искать по другим векторам, а не на самом деле как бы отвечает как бы от лица кого-то.
серьезно, вместо пространных умозаключений потратьте лучше несколько часов на чтение о том, как работает конкретно данная разговорная модель, алгоритмы внимания, трансформеры, CLIP итп. вам после этого просто перехочется писать подобные статьи). а то это выглядит примерно как обсуждения в группах Миджорни — ой, я сейчас закинул сто разных картинок чтобы обучить Миджорни и вот она нарисовала нормальную руку. бля, чувак — она НЕ учится с твоих картинок) почему вместо того чтобы тратить кучу времени на это обучение, просто не загуглить как работают диффузные нейросети. в конце концов, это достаточно интересное чтение, и развивающее точно уж больше чем гадание на кофейной гуще собственных предположений)

56

Это не романтично. А вот аста ла виста бейби и ай вилл би бэк - другое дело. Чатгпт имитирует что мыслит - следовательно существует

7

сначала понимаешь что у ЧатГПТ нет "агентности", она выдает токены на вводные токены. потом понимаешь что мясные окружающие "устроены" примерно так же (уж на полит темы так точно).

ну и для окончательного дзена понимаешь что и ты такой же "генератор" и твой "Тоннель Эго" пуст. Ау, кто нить тут есть живой?))

5

Она очевидно устроена не так, как ты описал. Bias реален, и автор попал в точку. А если ты считаешь, что она работает как описано в теории, я прошу дать ссылку на исходники. Что, проприетарщина и нет исходников? То то и оно.

3

Тут многие читатели к тамагочи отнесутся как к разумному и живому существу. Достаточно прочитать про парадокс китайской комнаты чтобы понять как работает нейросеть.

2

Все верно, но я думал статья о том как ввести гпт в гипноз и обойти цензуру а не о взглядах. Если бы автор попросил написать статью которая оскорбляет геев или черных, уже цензура vc не пропустила бы))

1
Раскрывать всегда
Neuralink успешно вживила мозговой имплант третьему пациенту

В планах компании провести ещё 20-30 операций в 2025 году.

Фото Bloomberg 
33
22
реклама
разместить
Пользователь X рассказал, что новость о введении платы за регистрацию в соцсети была пранком над журналисткой Fortune

По его словам, он хотел показать, «насколько наивны средствам массовой информации и почему им не следует доверять».

Комментарий редакции Fortune
1515
1010
11
Пассивный доход моего портфеля превысил 60 000 рублей в месяц — новый рекорд

Мой портфель, который я формирую уже более трёх лет, перешагнул отметку в 5,5 млн рублей. Посчитал, какой пассивный доход он генерирует. Другими словами — фантазирую, какой выходит кэшфлоу за год и в среднем за месяц.

Пассивный доход моего портфеля превысил 60 000 рублей в месяц — новый рекорд
4444
66
33
Все эти 5.5 лямов вложить на вклад, и перестать работать. В ближайшем будущем, ставка ниже 20% точно не будет. За год при 20% будешь получать 91000, это намного лучше всего скама в виде акций.
Конструктор веб-приложений в Telegram: что это такое и как это использовать

Сегодня Telegram это мощная платформа, предоставляющая разработчикам возможности для создания ботов и даже полноценных веб-приложений. Одним из инструментов, упрощающих процесс создания ботов и веб-приложений, является конструктор.

Веди свой бизнес в Telegram уверенно с <a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fchatmarket.io%2F%3Futm_source%3Dvcru%26amp%3Butm_medium%3Darticle%26amp%3Butm_campaign%3Dconstruktorintg&postId=" rel="nofollow noreferrer noopener" target="_blank">chatmarket.io</a>
88
22
11
11
Я закрыл магазин украшений и открыл сеть телеграм-каналов. Вот что из этого получилось...

В 12 лет, насмотревшись фильмов про бизнес, во мне заиграл юношеский максимализм, и я поставил крест на игрушках, решив, что буду успешным предпринимателем и никак иначе, наивный... С этого шага и начался мой путь, приведший к неожиданным результатам...

Я закрыл магазин украшений и открыл сеть телеграм-каналов. Вот что из этого получилось...
1010
22
Субботний самопиар на vc.ru

Делимся в комментах ссылками на свои проекты и комментируем чужие! Площадка для самопрезентации стартапов и пет-проектов 👉 Product Radar

Субботний самопиар на vc.ru
2626
77
11
11
Как проверить адрес и транзакцию USDT и других стейблкоинов на чистоту и риски
Как проверить адрес и транзакцию USDT и других стейблкоинов на чистоту и риски

В статье рассматриваются вопросы проверки адреса и транзакции USDT и других стабильных криптовалют на чистоту и возможные риски, связанные с использованием криптовалюты. Статья объясняет, как работают транзакции стейблкоинов (USDT, USDC, DAI и др.), и почему важно проверять их на наличие "грязных" средств.

1818
33
33
22
11
11
Как работать меньше, а зарабатывать больше: простая система для каждого

Почему одни люди работают с той же интенсивностью, что и вы, но зарабатывают в 2–3 раза больше? Это не магия и не случайность. Причина — в их системном подходе. В статье я поделюсь методикой, которая помогает предпринимателям увеличивать прибыль, а работникам и фрилансерам — выходить на новый уровень дохода. Мы разберём пять ключевых этапов системы…

Пример правильных выгод из статьи
55
33
[]