Самая честная нейросеть или мнения Васянов со всего мира

Сидел я значит томным вечером перед монитором и уже собирался пойти спать, как внезапно прилетела по RSS рассылка по нейросеткам на которую я подписан.
Среди кучи рекламных прокламаций и мнений "экспертов" я наткнулся на занятную новость, которая рассказывала о необычном чате от немецких исследователей.
Они поставили перед собой цель создать самую предвзятую нейросеть, которая будет выдавать разные точки зрения и заблуждения на любую тему. В том числе и неполиткорректные. Как на скриншоте выше.

Нейросеть выдает ответы в зависимости от локации, пола, возраста и политических предпочтений.

TLDR: ссылки на OpinionGPT и исследование.

Спрашивается зачем такая "бредовая" цель?

Обычно при обучении языковых моделей разработчики стремятся убрать предвзятости из текста. Вырвать их на корню, чтобы избежать неточностей ну и конечно никого не обидеть.

Но появляется проблема, что даже вылизанная информация всё равно, включает в себя предвзятость того кто её написал. Это могут быть политические предпочтения, жизненный опыт и прочее и прочее. Которые очень сложно отследить на большом объеме данных.

Тем самым отсекаются по умолчанию альтернативные точки зрения. Которые имеют право на жизнь.

Например, это как рассказывать о пользе религии с позиции атеиста. И обучить нейросеть только на трудах Докинза и Рассела. Кажется, всё написано прилично и объективно. Но при этом получается нейросеть атеист.

Именно это и рассматривается в исследовании немцев. При обучении нейросетей нужно включать всю доступную информацию по любой теме. Какой бы бредовой она не была.

Тем самым позволить конечному пользователю выбирать самому. Не навязывать что-то потихоньку, а дать все точки зрения, аргументы за и против. Даже если они будут кому-то неприятны.

Это расширяет перспективу и в какой-то степени не позволяет замкнуться в удобной реальности. Мнения не просто так существуют, за каждым мнением в первую очередь идёт какая-либо мотивация тех кто эти мнения высказывает. Ценности, взгляды и исторический контекст, который возможно тянется десятки лет и иногда тысячелетия.

Обрезать их по воле какой-то частной компании нельзя. Даже если она думает что несет тем самым благую цель.

Это самая коварная цензура. И основное её отличие от традиционной в том что она скрыта. Если человек не ознакомлен плотно с темой, он не поймет что ему не дали огромную долю "неудобной" информации.

А почему неудобной? Ну так отдел этики решил.

Именно с этой проблемой предлагают бороться немецкие исследователи. Сделать нейросети такие, как ChatGPT более прозрачными и объективными.

Сработает ли такой подход? Сомневаюсь. Наоборот как не прочтёшь пост в каком-нибудь блумберге, там очень усердно пишут о том что нужно запретить и ограничить.

Всё выше написанное спонтанное субъективное мнение. Думаете иначе? Пишите в комменты.