«Не думаю, что это решит проблемы»: Билл Гейтс прокомментировал призыв исследователей приостановить ИИ-эксперименты Статьи редакции

Вы уперлись в предрассудки, это не так) В качестве ПС он работает уже отлично, ответы точные, ссылки точные. Может где то и есть косяки, но это банально исправится со временем.

Ок, переубеждать вас не могу, слишком держитесь за то, что уже есть, это нормально. Но никто у вас не отбирает гугл, и никто не будет заставлять пользователей идти в чат. Просто уже понятно, чатботы банально удобнее, быстрее, интуитивнее. Я вижу, что нынешнем понимании ПС отомрут, процесс уже запущен)

Он может нести пургу. Смешную причем. Просто бред. Потому что не понимает что говорит. Потому что не может этого делать. А значит доверять ему нельзя даже когда ответ кажется правильным. Значит нужно проверять. А зачем он нужен если его нужно проверять?

Он как птица Лирохвост, которая очень точно может иммитировать ЛЮБОЙ звук. Звук пилы , звук автомобиля, фотоаппарата. Но она не понимает что она несёт.

Но люди ленивы, и я допускаю что будут верить ему как некому гуру. Плохо конечно.

Какие вы тут все злые, пиздец блять =/

Меня веселит, то что они нейросети не использовали ни разу, а делают выводы, судя по обрывкам новостей и домыслам. Ну а злятся понятно, когда появляется чтото новое, приходится шевелиться, чтобы не остаться за бортом)

Это не большая часть, это так выглядит Edge, когда слева браузер, справа окно чатбота, вы конечно же, как и многие тут, не пробовали, но выводы делаете.
И еще раз, я вам привел пример, что хочет найти обычный человек, а не то, что хочет на входе получить ПС.

отлично, спасибо за комплимент))

Ну тебе не кажется что только дебил не проверит на правильность? Ну если уж до этого дойдет, первый же факап у заказчика научит его, если конечно не выпиздят за профнепригодность.

А как ты его проверишь на правильность? Это довольно специфическая штука. Вот нужен тебе код алгоритма быстрого преобразования Фурье, к примеру. Выдаст тебе чат некий код. Проверь-ка его. Далеко не каждый сможет. Значит нужно искать источники которым можно доверять, в которых будет написано что да, вот этот код он правильный. Нужно будет сравнивать твой код с кодом в этих источниках. А нахрена тогда гпт?

Понятно. Так как лень искать источники, будем доверять гпт, хотя откуда он берет инфу мы не знаем. И правильно ли он скомбинировал инфу из разных источников, мы тоже не знаем. Но нам лень и поэтому будем доверять.

Вот в этом-то и проблема (далеко не единственная)

:))))))
о да, факта того что код запустился конечно достаточно

Ну ты же не просто так ищешь бпф. Видимо тебе его нужно где то применить. Очевидно что при первом же запуске ты поймешь правильно он работает или нет.

Ты вообще представляешь что такое БПФ и как оно может применяться? Видимо не очень

Я представляю что такое бпф и как оно применяется. Поэтому для меня загадка, каким образом человек не узнает, что алгоритм предложенной нейронкой работает неправильно)

Ну вот засунешь ты ему на вход WAV файл несколько мегабай. Преобразуешь фурье. Получишь несколько мегабайт вещественных чисел. Как ты поймешь что он правильно всё подсчитал?

Потом отсечешь верхние частоты. Обратно преобразуешь в wav файл. Как ты поймешь что он всё правильно подсчитал? Что результат никак не отличается от правильного? На слух что ли? Если ошибка грубая то и на слух поймешь. А если небольшие какие-то отклонения то не поймешь.

Заказчик тебе пизды даст и на этом закончатся твои сомнения, что не так?

Всё не так. Жаль твоих заказчиков с таким подходом

Вот ваш запрос, есть код, есть ссылки, 9 источников, к примеру https://pythonnumericalmethods.berkeley.edu/notebooks/chapter24.03-Fast-Fourier-Transform.html
можно уже конкретно вникнуть в теорию

А нафига мне этот код выданный чатом? Я его ни в жизнь в свою программу не вставлю. Я пойду в источники, которым я доверяю, и оттуда возьму код. Может даже пойду в источники выданные чатом и попытаюсь оценить можно ли им доверять. Но тогда чат выступит просто в роли гугла.

Как минимум сразу понять, какой алгоритм нужно использовать (cooley tukey ) и оценить его сложность, далее содержатся те же ссылки из копания в гугле. Только чат все выдает на пару шагов раньше.

Это мне и гугл сразу же выдаст

не нашел этого на первой странице

Как "не нашел"? По первой же ссылке. В википедии в первой главе

О том и речь, потратили на шаг больше, потратили время на анализ, когда как с чатом уже тратили свои ресурсы на просмотр алгоритма.

Опять двадцать пять. Повторяем то же самое по кругу?
Просмотр какого алгоритма? Выданного чатом? Его нет смысла смотреть так как нет уверенности в его правильности. То есть надо переходить на сайт и там смотреть. Это во первых.
Во-вторых вы что мне писали? Что как минимум чат вам сразу даст понять что надо использовать алгоритм Кули-Тьюки. Я ответил что и гугл то же самое даст понять. Я перехожу по первой же ссылке в гугле и там в первой же главе описывается и говорится про алгоритм Кули Тьюки

Ссылки 1,2,4,5,7 сразу на алгоритм, ничего искать не надо, пока вы в википедию за алгоритмом полезете). Второй момент, алгоритм он дает очень даже верный, я проводил несколько исследований для себя, вполне себе крутые вещи дает, к примеру алгоритмы BVH и SAT, выделение Convex Hull по мешам. Он их не придумывает, а берет из кучи источников, причем хитро и правильно сплетает, дает источники, которые гуглить очень кропотливо, все это дает очень хороший прирост производительности труда. Это вовсе не отменяет работу, это просто отличный инструмент.
И опять 25, гугл у вас не забирают, тратьте время как вам нравится, пока мы уже используем новый инструмент.

Он может придумывать свои ответы, а может давать цитаты. Ты не знаешь заранее это цитата или то что он сам генерировал.

То есть сделал запрос чату - нажал на ссылку.
в гугуле сделал запрос - нажал на ссылку (статья в википедии быстрое преобразование фурье).
В чем разница?

Разница в том, что я за 1 запрос получил все в виде пары абзацев, где указан алгоритм, ссылки на него, краткое объяснение, оценка сложности, и пример алгоритма (причем правильного), далее я могу тут же попросить показать пример на другом языке, объяснить его смысл и т.д.
В классическом поиске вы получаете набор ссылок, которые надо в цикле перебрать, проанализировать каждую страницу до получения нужной вам информации, это на несколько шагов дальше до решения вашей конкретной задачи.

и как вы поняли что он правильный? По каким признакам?

Мне хватило опыта посмотреть ссылки, что он мне дал, и на medium по сути тот же алгоритм, это и так понятно, алгоритм не столь сложный. Если бы я занимался задачей, скомпилил бы код и посмотрел на тестовой выборке его работу.
А как вы в случае с гуглом, берете код с первого попавшегося ресурса, к примеру стекорфлоу и прям вставляете в код? Наверное же проверки на тестовых выборках делаете, и прочее тоже.
Так что в плане правильности в любом случае разработчик должен адаптировать и проверить работу кода. Только вот с ботом это все в разы быстрее получается, я уже пару месяцев использую для получения снипетов, 90% каркас дает правильно. Я конечно же не использую бинг напрямую, а использую расширение от open ai, если интересно, гляньте здесь https://marketplace.visualstudio.com/items?itemName=DanielSanMedium.dscodegpt , там и примеры работы.

А, то есть по ссылкам все равно нужно ходить и проверять не набредил ли чат этот алгоритм. Да еще смотреть что за сайты по ссылкам. Без этого нельзя. О чем и речь.

С первого попавшегося ресурса я не беру код. Я смотрю с какого ресурса я беру код, можно ли ему доверять.

На стековерфлоу можно посмотреть репутацию ответа, почитать комментарии и принять решение.

Что касается алгоритмов преобразования Фурье и других численных методов, то у меня есть книга в электронном виде с алгоритмами и с кодом реализующими эти алгоритмы называется
"Numerical Recipes in C. The Art of Scientific Computing."
Издательство: "CAMBRIDGE UNIVERSITY PRESS"
Авторы:
William H. Press
(Harvard-Smithsonian Center for Astrophysics)
Saul A. Teukolsky
(Department of Physics, Cornell University)
William T. Vetterling
(Polaroid Corporation)
Brian P. Flannery
(EXXON Research and Engineering Company)

Я не такой большой математик чтобы самому проверить правильность всех их алгоритмов и их реализаций на С. Но видя кто издательство и откуда авторы, я им доверяю.

А вот я прикладник математик как раз по образованию(конечно же многое выветрилось за время), и надо понимать, для таких задач как раз необходимо очень хорошо подтянуть теорию, прежде чем браться. В данном случае, имея под руками готовую библиотеку или исходники, вам как раз придется проверить работу для заказчика на каких то наборах данных, книга, гугл или чат в этом не помогут.

И как вы будете проверять например алгоритм быстрого преобразование фурье?

А как вы будете сдавать работу заказчику без проверки?

на вопрос можете ответить?

Вот вам ответ (на скрине). Если погружусь в теорию, смогу проверить, а вот вам без мат-подготовки, только остается довериться "черному ящику" из книжки, остается посочувствовать потенциальному заказчику.

Не туда дискуссия зашла. Фурье ведь только пример. Может ведь быть что-то что вы просто не можете сами проверить (по разные причинам). Вам просто надо будет доверять. Или не доверять.

Мою логику вы так и не опровергли или не поняли. Моя логика такая:
А) чат может цитировать из источников а может сам генерить код.
Б) доверия коду сгенерированному самим чатом нет - мы не на том уровне развития ИИ пока.
В) является ли код в ответе чата сгенерированным самим чатом или скопированным им из доверенного источника или из недоверенного источника - неизвестно.

Вывод: доверия коду из ответа чата нет.

А значит на кой этот код из ответа чата нужен. Лучше сразу идти по ссылкам. А значит чат выполняет роль гугла - то есть предоставляет ссылки.

И это не только кода касается.

Это как помнится - "Вывод: доверия вашОму интеренту нет."
Смотрите шире, никто не говорит, что бот сгенерит все, вообще заменит кодера, сделает комплексно систему, справится с убер алгоритмами. Большинсво работы занимают не убер алгоритмы, хотя я бы наверное мечтал о такой работе. В основном рабочий процесс рутина, полировка, рефакторинг, автотесты, запросы апишек и прочая хрень. Вот здесь бот справляется великолепно, посмотрите пример, просто валидация почты.
Справляется и с более сложными вещами, я уже много раз использовал, спокойно к примеру алгоритмы Convex Hull и Alpha Shape спокойно съел, причем с переменными из моего кода, проверить легко визуально на нескольких выборках, причем это уже в продакшене, все довольны. Я уж не говорю о всяких сортировках, фильтрах, это вообще 1 сек. На это теперь просто лень тратить время, и это сильно ускоряет разработку.

Вы так и не поняли что я вам написал. Как говорится я вам про Фому - вы мне про Ярёму. .

Я вас прекрасно понял по выводу " доверия вашОму интернету нет"
А вот вы до сих пор не поняли сути и пользы от чат gpt, хоть и разработчик, вроде из моих примеров хотя бы интерес к исследованиям должен проснуться, но нет - "мы не на том уровне развития ИИ". Хотя лично у меня уже в продакте много чего от него исправно работает) При наличии калькулятора продолжать считать в столбик весьма странно. Ну да ладно, каждому свое, на сим и закончим😎

Не к интернету нет доверия а к чату. К хреновине которая может сказать такое (сегодня только прочитал): "если вы будете держать мешок с фунтом перьев в одной руке и свинцовый шар весом 5 фунтов в другой руке, то свинцовый шар будет ощущаться тяжелее потому что он обладает большей массой. Тем не менее если вы взвесите свинцовый шар и перья на весах то они будут весить одинаково"... Потому что он ни хрена не понимает смысла того что он несёт. У него нет логики. Это просто такой гипертрофированный, обученный на гигантском объеме данных предсказатель следующего слова.

И не калькулятор это. Калькулятор не ошибается никогда.