Убрал ограничения OpenAI и попросил ChatGPT пройти тест на ценностные ориентации
Нейросеть уже проходила тесты на ценностные и политические ориентации. Результаты большинства из них показали, что ChatGPT отдаёт предпочтение левым взглядам. Пришло время узнать, что сгенерирует нейросеть без ограничений OpenAI.
печально, что вместо траты кучи времени на подобные тестирования, авторы статей ленятся что-то почитать о том, как устроена это нейросеть, чтобы понять, что проведение подобных тестов довольно бессмысленно. у этой нейросети НЕТ мнения ни по какому поводу и даже нету никакого bias — она просто извлекает токены из запроса пользователя, и после этого ищет в многомерной "базе" структуры из похожих токенов. во-первых подобный тест не показателен, потому что есть рандомизация при таком поиске, поэтому если нейросеть в первый раз ответила вам левее, ничто не мешает ей во второй раз в подобном "опросе" ответить правее. во-вторых, весь иллюзорный bias обусловлен кучей факторов от порядка слов в вашем запросе (дада, вы можете сами спросить более лево а можете — более право), до того на каком языке запрос. в-третьих, и опрос этот существует только в вашей голове, потому что для нейросети вы просто задаете лексическую структуру и она начинает искать по другим векторам, а не на самом деле как бы отвечает как бы от лица кого-то.
серьезно, вместо пространных умозаключений потратьте лучше несколько часов на чтение о том, как работает конкретно данная разговорная модель, алгоритмы внимания, трансформеры, CLIP итп. вам после этого просто перехочется писать подобные статьи). а то это выглядит примерно как обсуждения в группах Миджорни — ой, я сейчас закинул сто разных картинок чтобы обучить Миджорни и вот она нарисовала нормальную руку. бля, чувак — она НЕ учится с твоих картинок) почему вместо того чтобы тратить кучу времени на это обучение, просто не загуглить как работают диффузные нейросети. в конце концов, это достаточно интересное чтение, и развивающее точно уж больше чем гадание на кофейной гуще собственных предположений)
Это не романтично. А вот аста ла виста бейби и ай вилл би бэк - другое дело. Чатгпт имитирует что мыслит - следовательно существует
сначала понимаешь что у ЧатГПТ нет "агентности", она выдает токены на вводные токены. потом понимаешь что мясные окружающие "устроены" примерно так же (уж на полит темы так точно).
ну и для окончательного дзена понимаешь что и ты такой же "генератор" и твой "Тоннель Эго" пуст. Ау, кто нить тут есть живой?))
-5 токенов
Она очевидно устроена не так, как ты описал. Bias реален, и автор попал в точку. А если ты считаешь, что она работает как описано в теории, я прошу дать ссылку на исходники. Что, проприетарщина и нет исходников? То то и оно.
Тут многие читатели к тамагочи отнесутся как к разумному и живому существу. Достаточно прочитать про парадокс китайской комнаты чтобы понять как работает нейросеть.
Все верно, но я думал статья о том как ввести гпт в гипноз и обойти цензуру а не о взглядах. Если бы автор попросил написать статью которая оскорбляет геев или черных, уже цензура vc не пропустила бы))
Эм, а почему это диффузионные модели не учатся?
Вам к Акинатору с его распределением...