Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации

Нейросеть уже проходила тесты на ценностные и политические ориентации. Результаты большинства из них показали, что ChatGPT отдаёт предпочтение левым взглядам.…

Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации
93

печально, что вместо траты кучи времени на подобные тестирования, авторы статей ленятся что-то почитать о том, как устроена это нейросеть, чтобы понять, что проведение подобных тестов довольно бессмысленно. у этой нейросети НЕТ мнения ни по какому поводу и даже нету никакого bias — она просто извлекает токены из запроса пользователя, и после этого ищет в многомерной "базе" структуры из похожих токенов. во-первых подобный тест не показателен, потому что есть рандомизация при таком поиске, поэтому если нейросеть в первый раз ответила вам левее, ничто не мешает ей во второй раз в подобном "опросе" ответить правее. во-вторых, весь иллюзорный bias обусловлен кучей факторов от порядка слов в вашем запросе (дада, вы можете сами спросить более лево а можете — более право), до того на каком языке запрос. в-третьих, и опрос этот существует только в вашей голове, потому что для нейросети вы просто задаете лексическую структуру и она начинает искать по другим векторам, а не на самом деле как бы отвечает как бы от лица кого-то.
серьезно, вместо пространных умозаключений потратьте лучше несколько часов на чтение о том, как работает конкретно данная разговорная модель, алгоритмы внимания, трансформеры, CLIP итп. вам после этого просто перехочется писать подобные статьи). а то это выглядит примерно как обсуждения в группах Миджорни — ой, я сейчас закинул сто разных картинок чтобы обучить Миджорни и вот она нарисовала нормальную руку. бля, чувак — она НЕ учится с твоих картинок) почему вместо того чтобы тратить кучу времени на это обучение, просто не загуглить как работают диффузные нейросети. в конце концов, это достаточно интересное чтение, и развивающее точно уж больше чем гадание на кофейной гуще собственных предположений)

56
Ответить

Это не романтично. А вот аста ла виста бейби и ай вилл би бэк - другое дело. Чатгпт имитирует что мыслит - следовательно существует

7
Ответить

сначала понимаешь что у ЧатГПТ нет "агентности", она выдает токены на вводные токены. потом понимаешь что мясные окружающие "устроены" примерно так же (уж на полит темы так точно).

ну и для окончательного дзена понимаешь что и ты такой же "генератор" и твой "Тоннель Эго" пуст. Ау, кто нить тут есть живой?))

5
Ответить

-5 токенов

4
Ответить

Она очевидно устроена не так, как ты описал. Bias реален, и автор попал в точку. А если ты считаешь, что она работает как описано в теории, я прошу дать ссылку на исходники. Что, проприетарщина и нет исходников? То то и оно.

3
Ответить

Тут многие читатели к тамагочи отнесутся как к разумному и живому существу. Достаточно прочитать про парадокс китайской комнаты чтобы понять как работает нейросеть.

2
Ответить

Все верно, но я думал статья о том как ввести гпт в гипноз и обойти цензуру а не о взглядах. Если бы автор попросил написать статью которая оскорбляет геев или черных, уже цензура vc не пропустила бы))

1
Ответить

Эм, а почему это диффузионные модели не учатся?

Ответить

Вам к Акинатору с его распределением...

Ответить