Почему ChatGPT не должен находиться в одних руках

Привет. Меня зовут Андрей Герцен. Изучаю нейросети и понятно рассказываю о них.

Популярные сервисы хранят в себе много возможностей. Однако растёт вероятность того, что они могут быть монополизированы в интересах крупных корпораций, ведь далеко не все компании-разработчики хотят придерживаться концепции открытого исходного кода (open source).

Феномен Чата

Любить или не любить ChatGPT — выбор каждого. Но отрицать факт того, что это настоящий феномен, пожалуй, нельзя. Вот для наглядности картинка, сколько времени потребовалось разным сервисам, чтобы достигнуть отметки в 1 миллион пользователей. Скоро число пользователей Чата может достигнуть миллиард.

ChatGPT полностью находится под контролем OpenAI и за пределами компании не знают о полной конструкции сервиса. Известно только то, что он работает по GPT-3.

Почему open source важен

ChatGPT впечатляет, но имеет свои недостатки. Иногда он убедительно выдаёт ложь за правду и не всегда хорош в математике. Но что самое неприятное из уже замеченного — политическая предвзятость сервиса.

Многие пользователи разными способами заставляли генерировать нейросеть ответы на разные политические вопросы. Подробнее об этом я уже писал на vc. Суть сводится к тому, что в большинстве тестов ChatGPT склонен к левым взглядам и поддержке конкретных политических идеологий. При этом если "убрать" ограничения OpenAI, ответы начинают меняться.

Чтобы нейросетям можно было доверять, компании-разработчики должны придерживаться принципа open source, чтобы другие могли модернизировать проекты и публично демонстрировать внутренние недостатки.

Чем грозит "закрытая разработка"

Если в условном Netflix есть негласное правило: добавлять побольше нетрадиционных отношений и людей с разными цветами кожи (уместно это или нет) — это личное право компании. Можно относиться к этому хорошо или плохо, но стриминговый сервис сложно назвать прорывной технологией и объективным источником новых знаний.

В случае с развитием технологий нейросетей, учитывая огромный интерес к ним, непредвзятость и объективность должны быть, как мне кажется, превыше всего. К Чату всё больше людей обращаются как к объективному источнику знаний, не подвергая сгенерированные результаты сомнениям. Поэтому, чем больше будет ошибок или склонностей отвечать с заранее определённой позицией, тем меньше на перспективе будет доверия к технологиям у масс.

Пример: Представим, что условный очень богатый и влиятельный человек захочет убедить весь мир, что делать животным больно для собственной забавы — это нормально и естественно. Он вполне может использовать своё влияние на компании по типу OpenAI, чтобы те продвигали его повестку. Они могут внести коррективы в свой сервис и вдруг ChatGPT начнёт рассказывать нам об этом и даже приводить свои аргументы.

Это лишь очень простое объяснение того, какие опасности хранят в себе нейросети на примере ChatGPT и почему политика открытого кода так важна в этой сфере.

Призываю к обсуждению в комментариях.

Узнать про нейросети чуть больше можете тут ⤵

0
29 комментариев
Написать комментарий...
Denis

Вся суть статьи в последнем абзаце: "условный очень богатый и влиятельный человек захочет убедить весь мир, что делать животным больно для собственной забавы — это нормально и естественно. Он вполне может использовать своё влияние на компании по типу OpenAI, чтобы те продвигали его повестку".

Разве это проблема только ChatGPT?

Да, это так, надо учитывать это всегда

Ответить
Развернуть ветку
SG

Вся суть статьи - ссылка на Тг канал))

Ответить
Развернуть ветку
shiva

это проблема всех уебков в правительстве, продвигающих свои идеи

а чат просто с меньшей затратой позволяет этот механизм масштабировать и направить на массовое влияние

проблема как всегда в людях

лучше бы решением ее занимались

Ответить
Развернуть ветку
Саша Антипов

Это вы верно, но есть вопрос: как воспитать человечество?

Ответить
Развернуть ветку
Rnatery

Почему воспитать, а не выдрессировать?

Ответить
Развернуть ветку
Саша Антипов

Преображенский говорил, что лаской можно добиться намного большего, чем террором.

Ответить
Развернуть ветку
Rnatery

Дрессируют тоже с сахаром

Ответить
Развернуть ветку
Саша Антипов

Это набор слов? Я не совсем понимаю смысл комментария.

Ответить
Развернуть ветку
Rnatery

Дрессировка бывает без террорра.

Ответить
Развернуть ветку
Саша Антипов

А вы в этом смысле(пряником), ну это тоже верно, теперь главное понять, что люди прячут(смысл у каждого разный) под словом "дрессировка"?

Ответить
Развернуть ветку
A

А он не в одних руках

Ответить
Развернуть ветку
Виктор Петров

нынешний chatGPT - точный аналог ранних версий "Фотошопа", когда инструмент попал в руки идиотов, и те стали кропать коллажи с троллейбусами в пустыне и прочими мутантами.
Возможности инструмента велики, но всё решает корпус. И вот тут - просто беда. В нынешнем состоянии инструмент попросту нерабочий, и всё, что с ним делают - это забивание гвоздей микроскопом.

Ответить
Развернуть ветку
Георгий Хромченко

Вопрос очень простой - кто будет оплачивать сотни миллионов долларов на обучение нейросетей такого масштаба?

OpenSource аналоги есть, просто они более тупые в силу дороговизны ресурсов. С другой стороны - лет через 5-10 из-за роста вычислительных мощностей проект уровня ChatGPT будет доступен в OpenSource (а у Microsoft и Google будут более мощные модели).

Вообщем не понятно как устойчиво развивать такой проект если исходники есть у всех

Ответить
Развернуть ветку
Катерина

5 дней?это безусловный рекорд,не думала что за такой короткий срок

Ответить
Развернуть ветку
MedievalRain
далеко не все компании-разработчики хотят придерживаться концепции открытого исходного кода (open source).

Компаниям нет никакого смысла делать открытой свою модель. Обучение модели стоит миллионы долларов и сделать ее открытой - это значит все свои вложения подарить конкурентам.
При этом выгоды никакой нет, как в случае с программным кодом, который могут улучшать сторонние люди.

Ответить
Развернуть ветку
Вася Пражкин
Почему ChatGPT не должен находиться в одних руках

Где-то я уже подобное слышал..

Ответить
Развернуть ветку
Алексей Прасковьин
Где-то я уже подобное слышал..
Ответить
Развернуть ветку
Людмила Руслановна

У нас уже взяли практически всё, даже не делили, потом у этих идиотов тоже забрали. В итоге получилось, что Россия 30 лет вывозила все недра забесплатно. 21 век однако, как просто и красиво окучивать целые народы.

Ответить
Развернуть ветку
Алексей Прасковьин
и вдруг ChatGPT начнёт рассказывать нам об этом и даже приводить свои аргументы

И чем Чатгпт в таком раскладе принципиально отличается от телевизора? Фейсбука? Твиттера? Радио? Газеты? Это просто канал донесения информации ( в вашем примере, прошу заметить)

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Eugene Podosenov

За все хорошее против всего плохого

Ответить
Развернуть ветку
Саша G

У кого вычислительные мощности и деньги - того и тапки.

Единственный шанс россиян "выжить в ИИ сегменте" помогать развивать
Open Source решения на русском языке. Ибо Яндекса у вас уже нет.
https://open-assistant.io/ru/

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Григорий Юнг

богатые дяди если захотят промыть мозг людям они это сделают, а так да, ChatGPT это отличный способ это сделать

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Денис Демидов

Проприетарное ПО дает понятную и простую схему монетизации, а значит является мощным двигателем прогресса, без него даже опенсорс был бы развит слабо, так не привлек бы к себе идейный актив - людей борцов за все хорошее, против всего плохого.
PS Составить конкуренцию ему сможет только другой проприетарный продукт, у опенсорса нет шансов в этом.

Ответить
Развернуть ветку
Борис Супонев

даже колец всевластия было 3

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Наталья Антошина

Принципы ясности работы, непредвзятости, прозрачности механизмов и процессов, предсказуемости алгоритмов, обеспечения их подконтрольности и непричинения вреда давно есть в нормативных базах. Просто не все об этом знают:)
В серьезных сферах эксперты никогда не возьмут на веру непонятно откуда взявшиеся данные и непонятно как полученные выводы.
В других - качество на риске потребителя, до первых исков.

Ответить
Развернуть ветку
Valery Oficerov

Леваки подъехали

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
26 комментариев
Раскрывать всегда