Привет. Меня зовут Андрей Герцен. Изучаю нейросети и понятно рассказываю о них.
Популярные сервисы хранят в себе много возможностей. Однако растёт вероятность того, что они могут быть монополизированы в интересах крупных корпораций, ведь далеко не все компании-разработчики хотят придерживаться концепции открытого исходного кода (open source).
Феномен Чата
Любить или не любить ChatGPT — выбор каждого. Но отрицать факт того, что это настоящий феномен, пожалуй, нельзя. Вот для наглядности картинка, сколько времени потребовалось разным сервисам, чтобы достигнуть отметки в 1 миллион пользователей. Скоро число пользователей Чата может достигнуть миллиард.
ChatGPT полностью находится под контролем OpenAI и за пределами компании не знают о полной конструкции сервиса. Известно только то, что он работает по GPT-3.
Почему open source важен
ChatGPT впечатляет, но имеет свои недостатки. Иногда он убедительно выдаёт ложь за правду и не всегда хорош в математике. Но что самое неприятное из уже замеченного — политическая предвзятость сервиса.
Многие пользователи разными способами заставляли генерировать нейросеть ответы на разные политические вопросы. Подробнее об этом я уже писал на vc. Суть сводится к тому, что в большинстве тестов ChatGPT склонен к левым взглядам и поддержке конкретных политических идеологий. При этом если "убрать" ограничения OpenAI, ответы начинают меняться.
Чтобы нейросетям можно было доверять, компании-разработчики должны придерживаться принципа open source, чтобы другие могли модернизировать проекты и публично демонстрировать внутренние недостатки.
Чем грозит "закрытая разработка"
Если в условном Netflix есть негласное правило: добавлять побольше нетрадиционных отношений и людей с разными цветами кожи (уместно это или нет) — это личное право компании. Можно относиться к этому хорошо или плохо, но стриминговый сервис сложно назвать прорывной технологией и объективным источником новых знаний.
В случае с развитием технологий нейросетей, учитывая огромный интерес к ним, непредвзятость и объективность должны быть, как мне кажется, превыше всего. К Чату всё больше людей обращаются как к объективному источнику знаний, не подвергая сгенерированные результаты сомнениям. Поэтому, чем больше будет ошибок или склонностей отвечать с заранее определённой позицией, тем меньше на перспективе будет доверия к технологиям у масс.
Пример: Представим, что условный очень богатый и влиятельный человек захочет убедить весь мир, что делать животным больно для собственной забавы — это нормально и естественно. Он вполне может использовать своё влияние на компании по типу OpenAI, чтобы те продвигали его повестку. Они могут внести коррективы в свой сервис и вдруг ChatGPT начнёт рассказывать нам об этом и даже приводить свои аргументы.
Это лишь очень простое объяснение того, какие опасности хранят в себе нейросети на примере ChatGPT и почему политика открытого кода так важна в этой сфере.
Призываю к обсуждению в комментариях.
Узнать про нейросети чуть больше можете тут ⤵
Вся суть статьи в последнем абзаце: "условный очень богатый и влиятельный человек захочет убедить весь мир, что делать животным больно для собственной забавы — это нормально и естественно. Он вполне может использовать своё влияние на компании по типу OpenAI, чтобы те продвигали его повестку".
Разве это проблема только ChatGPT?
Да, это так, надо учитывать это всегда
Вся суть статьи - ссылка на Тг канал))
это проблема всех уебков в правительстве, продвигающих свои идеи
а чат просто с меньшей затратой позволяет этот механизм масштабировать и направить на массовое влияние
проблема как всегда в людях
лучше бы решением ее занимались
Это вы верно, но есть вопрос: как воспитать человечество?
Почему воспитать, а не выдрессировать?
Преображенский говорил, что лаской можно добиться намного большего, чем террором.
Дрессируют тоже с сахаром
Это набор слов? Я не совсем понимаю смысл комментария.
Дрессировка бывает без террорра.
А вы в этом смысле(пряником), ну это тоже верно, теперь главное понять, что люди прячут(смысл у каждого разный) под словом "дрессировка"?
А он не в одних руках
нынешний chatGPT - точный аналог ранних версий "Фотошопа", когда инструмент попал в руки идиотов, и те стали кропать коллажи с троллейбусами в пустыне и прочими мутантами.
Возможности инструмента велики, но всё решает корпус. И вот тут - просто беда. В нынешнем состоянии инструмент попросту нерабочий, и всё, что с ним делают - это забивание гвоздей микроскопом.
Вопрос очень простой - кто будет оплачивать сотни миллионов долларов на обучение нейросетей такого масштаба?
OpenSource аналоги есть, просто они более тупые в силу дороговизны ресурсов. С другой стороны - лет через 5-10 из-за роста вычислительных мощностей проект уровня ChatGPT будет доступен в OpenSource (а у Microsoft и Google будут более мощные модели).
Вообщем не понятно как устойчиво развивать такой проект если исходники есть у всех
5 дней?это безусловный рекорд,не думала что за такой короткий срок
Компаниям нет никакого смысла делать открытой свою модель. Обучение модели стоит миллионы долларов и сделать ее открытой - это значит все свои вложения подарить конкурентам.
При этом выгоды никакой нет, как в случае с программным кодом, который могут улучшать сторонние люди.
Где-то я уже подобное слышал..
У нас уже взяли практически всё, даже не делили, потом у этих идиотов тоже забрали. В итоге получилось, что Россия 30 лет вывозила все недра забесплатно. 21 век однако, как просто и красиво окучивать целые народы.
И чем Чатгпт в таком раскладе принципиально отличается от телевизора? Фейсбука? Твиттера? Радио? Газеты? Это просто канал донесения информации ( в вашем примере, прошу заметить)
Комментарий удален модератором
За все хорошее против всего плохого
У кого вычислительные мощности и деньги - того и тапки.
Единственный шанс россиян "выжить в ИИ сегменте" помогать развивать
Open Source решения на русском языке. Ибо Яндекса у вас уже нет.
https://open-assistant.io/ru/
Чем это отличается от той же самой подкрутки выдачи результатов в поисковых системах?
богатые дяди если захотят промыть мозг людям они это сделают, а так да, ChatGPT это отличный способ это сделать
А что тут обсуждать?) несёт опасность - да, но вы это никак не сможете избежать, потому что в отличии от богатых и влиятельных людей, у вас ограниченные ресурсы, а по сути - только идея о свободе
Проприетарное ПО дает понятную и простую схему монетизации, а значит является мощным двигателем прогресса, без него даже опенсорс был бы развит слабо, так не привлек бы к себе идейный актив - людей борцов за все хорошее, против всего плохого.
PS Составить конкуренцию ему сможет только другой проприетарный продукт, у опенсорса нет шансов в этом.
даже колец всевластия было 3
Нейросети
Комментарий удален модератором
Принципы ясности работы, непредвзятости, прозрачности механизмов и процессов, предсказуемости алгоритмов, обеспечения их подконтрольности и непричинения вреда давно есть в нормативных базах. Просто не все об этом знают:)
В серьезных сферах эксперты никогда не возьмут на веру непонятно откуда взявшиеся данные и непонятно как полученные выводы.
В других - качество на риске потребителя, до первых исков.
Леваки подъехали
Комментарий удален модератором