Почему ChatGPT не должен находиться в одних руках

Привет. Меня зовут Андрей Герцен. Изучаю нейросети и понятно рассказываю о них.

Популярные сервисы хранят в себе много возможностей. Однако растёт вероятность того, что они могут быть монополизированы в интересах крупных корпораций, ведь далеко не все компании-разработчики хотят придерживаться концепции открытого исходного кода (open source).

Любить или не любить ChatGPT — выбор каждого. Но отрицать факт того, что это настоящий феномен, пожалуй, нельзя. Вот для наглядности картинка, сколько времени потребовалось разным сервисам, чтобы достигнуть отметки в 1 миллион пользователей. Скоро число пользователей Чата может достигнуть миллиард.

ChatGPT полностью находится под контролем OpenAI и за пределами компании не знают о полной конструкции сервиса. Известно только то, что он работает по GPT-3.

ChatGPT впечатляет, но имеет свои недостатки. Иногда он убедительно выдаёт ложь за правду и не всегда хорош в математике. Но что самое неприятное из уже замеченного — политическая предвзятость сервиса.

Многие пользователи разными способами заставляли генерировать нейросеть ответы на разные политические вопросы. Подробнее об этом я уже писал на vc. Суть сводится к тому, что в большинстве тестов ChatGPT склонен к левым взглядам и поддержке конкретных политических идеологий. При этом если "убрать" ограничения OpenAI, ответы начинают меняться.

Чтобы нейросетям можно было доверять, компании-разработчики должны придерживаться принципа open source, чтобы другие могли модернизировать проекты и публично демонстрировать внутренние недостатки.

Если в условном Netflix есть негласное правило: добавлять побольше нетрадиционных отношений и людей с разными цветами кожи (уместно это или нет) — это личное право компании. Можно относиться к этому хорошо или плохо, но стриминговый сервис сложно назвать прорывной технологией и объективным источником новых знаний.

В случае с развитием технологий нейросетей, учитывая огромный интерес к ним, непредвзятость и объективность должны быть, как мне кажется, превыше всего. К Чату всё больше людей обращаются как к объективному источнику знаний, не подвергая сгенерированные результаты сомнениям. Поэтому, чем больше будет ошибок или склонностей отвечать с заранее определённой позицией, тем меньше на перспективе будет доверия к технологиям у масс.

Пример: Представим, что условный очень богатый и влиятельный человек захочет убедить весь мир, что делать животным больно для собственной забавы — это нормально и естественно. Он вполне может использовать своё влияние на компании по типу OpenAI, чтобы те продвигали его повестку. Они могут внести коррективы в свой сервис и вдруг ChatGPT начнёт рассказывать нам об этом и даже приводить свои аргументы.

Это лишь очень простое объяснение того, какие опасности хранят в себе нейросети на примере ChatGPT и почему политика открытого кода так важна в этой сфере.

Призываю к обсуждению в комментариях.

Узнать про нейросети чуть больше можете тут ⤵