«Не думаю, что это решит проблемы»: Билл Гейтс прокомментировал призыв исследователей приостановить ИИ-эксперименты Статьи редакции

Ну тебе не кажется что только дебил не проверит на правильность? Ну если уж до этого дойдет, первый же факап у заказчика научит его, если конечно не выпиздят за профнепригодность.

А как ты его проверишь на правильность? Это довольно специфическая штука. Вот нужен тебе код алгоритма быстрого преобразования Фурье, к примеру. Выдаст тебе чат некий код. Проверь-ка его. Далеко не каждый сможет. Значит нужно искать источники которым можно доверять, в которых будет написано что да, вот этот код он правильный. Нужно будет сравнивать твой код с кодом в этих источниках. А нахрена тогда гпт?

Вот ваш запрос, есть код, есть ссылки, 9 источников, к примеру https://pythonnumericalmethods.berkeley.edu/notebooks/chapter24.03-Fast-Fourier-Transform.html
можно уже конкретно вникнуть в теорию

А нафига мне этот код выданный чатом? Я его ни в жизнь в свою программу не вставлю. Я пойду в источники, которым я доверяю, и оттуда возьму код. Может даже пойду в источники выданные чатом и попытаюсь оценить можно ли им доверять. Но тогда чат выступит просто в роли гугла.

Как минимум сразу понять, какой алгоритм нужно использовать (cooley tukey ) и оценить его сложность, далее содержатся те же ссылки из копания в гугле. Только чат все выдает на пару шагов раньше.

Это мне и гугл сразу же выдаст

не нашел этого на первой странице

Как "не нашел"? По первой же ссылке. В википедии в первой главе

О том и речь, потратили на шаг больше, потратили время на анализ, когда как с чатом уже тратили свои ресурсы на просмотр алгоритма.

Опять двадцать пять. Повторяем то же самое по кругу?
Просмотр какого алгоритма? Выданного чатом? Его нет смысла смотреть так как нет уверенности в его правильности. То есть надо переходить на сайт и там смотреть. Это во первых.
Во-вторых вы что мне писали? Что как минимум чат вам сразу даст понять что надо использовать алгоритм Кули-Тьюки. Я ответил что и гугл то же самое даст понять. Я перехожу по первой же ссылке в гугле и там в первой же главе описывается и говорится про алгоритм Кули Тьюки

Ссылки 1,2,4,5,7 сразу на алгоритм, ничего искать не надо, пока вы в википедию за алгоритмом полезете). Второй момент, алгоритм он дает очень даже верный, я проводил несколько исследований для себя, вполне себе крутые вещи дает, к примеру алгоритмы BVH и SAT, выделение Convex Hull по мешам. Он их не придумывает, а берет из кучи источников, причем хитро и правильно сплетает, дает источники, которые гуглить очень кропотливо, все это дает очень хороший прирост производительности труда. Это вовсе не отменяет работу, это просто отличный инструмент.
И опять 25, гугл у вас не забирают, тратьте время как вам нравится, пока мы уже используем новый инструмент.

Он может придумывать свои ответы, а может давать цитаты. Ты не знаешь заранее это цитата или то что он сам генерировал.

То есть сделал запрос чату - нажал на ссылку.
в гугуле сделал запрос - нажал на ссылку (статья в википедии быстрое преобразование фурье).
В чем разница?

Разница в том, что я за 1 запрос получил все в виде пары абзацев, где указан алгоритм, ссылки на него, краткое объяснение, оценка сложности, и пример алгоритма (причем правильного), далее я могу тут же попросить показать пример на другом языке, объяснить его смысл и т.д.
В классическом поиске вы получаете набор ссылок, которые надо в цикле перебрать, проанализировать каждую страницу до получения нужной вам информации, это на несколько шагов дальше до решения вашей конкретной задачи.

и как вы поняли что он правильный? По каким признакам?

Мне хватило опыта посмотреть ссылки, что он мне дал, и на medium по сути тот же алгоритм, это и так понятно, алгоритм не столь сложный. Если бы я занимался задачей, скомпилил бы код и посмотрел на тестовой выборке его работу.
А как вы в случае с гуглом, берете код с первого попавшегося ресурса, к примеру стекорфлоу и прям вставляете в код? Наверное же проверки на тестовых выборках делаете, и прочее тоже.
Так что в плане правильности в любом случае разработчик должен адаптировать и проверить работу кода. Только вот с ботом это все в разы быстрее получается, я уже пару месяцев использую для получения снипетов, 90% каркас дает правильно. Я конечно же не использую бинг напрямую, а использую расширение от open ai, если интересно, гляньте здесь https://marketplace.visualstudio.com/items?itemName=DanielSanMedium.dscodegpt , там и примеры работы.

А, то есть по ссылкам все равно нужно ходить и проверять не набредил ли чат этот алгоритм. Да еще смотреть что за сайты по ссылкам. Без этого нельзя. О чем и речь.

С первого попавшегося ресурса я не беру код. Я смотрю с какого ресурса я беру код, можно ли ему доверять.

На стековерфлоу можно посмотреть репутацию ответа, почитать комментарии и принять решение.

Что касается алгоритмов преобразования Фурье и других численных методов, то у меня есть книга в электронном виде с алгоритмами и с кодом реализующими эти алгоритмы называется
"Numerical Recipes in C. The Art of Scientific Computing."
Издательство: "CAMBRIDGE UNIVERSITY PRESS"
Авторы:
William H. Press
(Harvard-Smithsonian Center for Astrophysics)
Saul A. Teukolsky
(Department of Physics, Cornell University)
William T. Vetterling
(Polaroid Corporation)
Brian P. Flannery
(EXXON Research and Engineering Company)

Я не такой большой математик чтобы самому проверить правильность всех их алгоритмов и их реализаций на С. Но видя кто издательство и откуда авторы, я им доверяю.

А вот я прикладник математик как раз по образованию(конечно же многое выветрилось за время), и надо понимать, для таких задач как раз необходимо очень хорошо подтянуть теорию, прежде чем браться. В данном случае, имея под руками готовую библиотеку или исходники, вам как раз придется проверить работу для заказчика на каких то наборах данных, книга, гугл или чат в этом не помогут.

И как вы будете проверять например алгоритм быстрого преобразование фурье?

А как вы будете сдавать работу заказчику без проверки?

на вопрос можете ответить?

Вот вам ответ (на скрине). Если погружусь в теорию, смогу проверить, а вот вам без мат-подготовки, только остается довериться "черному ящику" из книжки, остается посочувствовать потенциальному заказчику.

Не туда дискуссия зашла. Фурье ведь только пример. Может ведь быть что-то что вы просто не можете сами проверить (по разные причинам). Вам просто надо будет доверять. Или не доверять.

Мою логику вы так и не опровергли или не поняли. Моя логика такая:
А) чат может цитировать из источников а может сам генерить код.
Б) доверия коду сгенерированному самим чатом нет - мы не на том уровне развития ИИ пока.
В) является ли код в ответе чата сгенерированным самим чатом или скопированным им из доверенного источника или из недоверенного источника - неизвестно.

Вывод: доверия коду из ответа чата нет.

А значит на кой этот код из ответа чата нужен. Лучше сразу идти по ссылкам. А значит чат выполняет роль гугла - то есть предоставляет ссылки.

И это не только кода касается.

Это как помнится - "Вывод: доверия вашОму интеренту нет."
Смотрите шире, никто не говорит, что бот сгенерит все, вообще заменит кодера, сделает комплексно систему, справится с убер алгоритмами. Большинсво работы занимают не убер алгоритмы, хотя я бы наверное мечтал о такой работе. В основном рабочий процесс рутина, полировка, рефакторинг, автотесты, запросы апишек и прочая хрень. Вот здесь бот справляется великолепно, посмотрите пример, просто валидация почты.
Справляется и с более сложными вещами, я уже много раз использовал, спокойно к примеру алгоритмы Convex Hull и Alpha Shape спокойно съел, причем с переменными из моего кода, проверить легко визуально на нескольких выборках, причем это уже в продакшене, все довольны. Я уж не говорю о всяких сортировках, фильтрах, это вообще 1 сек. На это теперь просто лень тратить время, и это сильно ускоряет разработку.

Вы так и не поняли что я вам написал. Как говорится я вам про Фому - вы мне про Ярёму. .

Я вас прекрасно понял по выводу " доверия вашОму интернету нет"
А вот вы до сих пор не поняли сути и пользы от чат gpt, хоть и разработчик, вроде из моих примеров хотя бы интерес к исследованиям должен проснуться, но нет - "мы не на том уровне развития ИИ". Хотя лично у меня уже в продакте много чего от него исправно работает) При наличии калькулятора продолжать считать в столбик весьма странно. Ну да ладно, каждому свое, на сим и закончим😎

Не к интернету нет доверия а к чату. К хреновине которая может сказать такое (сегодня только прочитал): "если вы будете держать мешок с фунтом перьев в одной руке и свинцовый шар весом 5 фунтов в другой руке, то свинцовый шар будет ощущаться тяжелее потому что он обладает большей массой. Тем не менее если вы взвесите свинцовый шар и перья на весах то они будут весить одинаково"... Потому что он ни хрена не понимает смысла того что он несёт. У него нет логики. Это просто такой гипертрофированный, обученный на гигантском объеме данных предсказатель следующего слова.

И не калькулятор это. Калькулятор не ошибается никогда.