«Не думаю, что это решит проблемы»: Билл Гейтс прокомментировал призыв исследователей приостановить ИИ-эксперименты Статьи редакции
Сооснователь Microsoft впервые публично сообщил, что думает об открытом письме, в разговоре с Reuters.
- По словам Гейтса, понять, как полугодовая пауза поможет мировому рынку ИИ-разработок, «трудно». Он также «не думает», что приостановка работы какой-то конкретной группы исследователей решит сложности, стоящие перед лицом всей индустрии.
- Вместо того чтобы предлагать разработчикам взять паузу, следует сосредоточиться на том, как извлечь максимальную выгоду из тех ИИ-решений, что уже есть, — принимая во внимание «спорные области», считает Гейтс.
- В марте 2023 года энтузиасты опубликовали письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий, говорилось в документе.
- На момент текущей публикации письмо подписало около 6000 учёных, исследователей и предпринимателей. По данным его авторов, заявок поступило больше 50 тысяч, просто личность заявителей ещё не успели подтвердить.
- Среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
- Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
- Гейтс тем временем давно известен как сторонник развития ИИ. Microsoft много лет сотрудничает с разработчиком нейросетей GPT и чат-бота ChatGPT — компанией OpenAI. А сам предприниматель говорит, что ИИ — технология столь же важная, как интернет, микропроцессор, ПК и мобильный телефон.
12K
показов
8.2K
открытий
Да всё он понимает. Если бы в Бинге не было нейронки, щас бы сам подписал это письмо. Хехе.
А что эта нейронка дает Бингу кроме пиара ?? Все резко пересели с Гугла на Бинг ???
Ну эта нейронка, если честно, топчик. Она очень хороша как проводник в неизвестную тему. Ты ей задаешь вопрос, она тебе дает ответ, после которого ты уже в курсе куда дальше копать. Эдакий поисковик, который сжимает поисковую выдачу до одного ответа. Поэтому фора в пол года - это очень неплохо для того чтобы набить аудиторию.
Только ты не знаешь откуда она взяла этот ответ, из какого источника, и соответственно ты не можешь решить можно ли ему доверять.
PS: мало того инфа которую нейросеть сгенерировала, может быть обобщением из разных источников (опять же неизвестных тебе), но никто не гарантирует правильность алгоритмов обобщения.
А примем тут доверие? Она накидывает мне темы и я дальше копаю официальные источники и уже делаю вывод. Я же не говорю что ей нужно доверять. Вот например, прошу её перечислить алгоритмы сжатия. Она перечисляет. Я их изучаю уже конктретно и решаю какой мне больше подходит. А если я делаю поиск, то на меня вываливается куча материала, который я должен сам перелопатить. А бывает так, что ты даже и не знаешь как подступиться к вопросу и тебе нужна хоть какая то вводная.
Просто невероятный буст в поиске информации.
Комментарий недоступен
Ну хорошо, нейронка может тебе ещё и накидать код алгоритма сжатия :)
который нужно сначала проверить на правильность
Ну тебе не кажется что только дебил не проверит на правильность? Ну если уж до этого дойдет, первый же факап у заказчика научит его, если конечно не выпиздят за профнепригодность.
А как ты его проверишь на правильность? Это довольно специфическая штука. Вот нужен тебе код алгоритма быстрого преобразования Фурье, к примеру. Выдаст тебе чат некий код. Проверь-ка его. Далеко не каждый сможет. Значит нужно искать источники которым можно доверять, в которых будет написано что да, вот этот код он правильный. Нужно будет сравнивать твой код с кодом в этих источниках. А нахрена тогда гпт?
Вот ваш запрос, есть код, есть ссылки, 9 источников, к примеру https://pythonnumericalmethods.berkeley.edu/notebooks/chapter24.03-Fast-Fourier-Transform.html
можно уже конкретно вникнуть в теорию
А нафига мне этот код выданный чатом? Я его ни в жизнь в свою программу не вставлю. Я пойду в источники, которым я доверяю, и оттуда возьму код. Может даже пойду в источники выданные чатом и попытаюсь оценить можно ли им доверять. Но тогда чат выступит просто в роли гугла.
Как минимум сразу понять, какой алгоритм нужно использовать (cooley tukey ) и оценить его сложность, далее содержатся те же ссылки из копания в гугле. Только чат все выдает на пару шагов раньше.
Это мне и гугл сразу же выдаст
не нашел этого на первой странице
Как "не нашел"? По первой же ссылке. В википедии в первой главе
О том и речь, потратили на шаг больше, потратили время на анализ, когда как с чатом уже тратили свои ресурсы на просмотр алгоритма.
Опять двадцать пять. Повторяем то же самое по кругу?
Просмотр какого алгоритма? Выданного чатом? Его нет смысла смотреть так как нет уверенности в его правильности. То есть надо переходить на сайт и там смотреть. Это во первых.
Во-вторых вы что мне писали? Что как минимум чат вам сразу даст понять что надо использовать алгоритм Кули-Тьюки. Я ответил что и гугл то же самое даст понять. Я перехожу по первой же ссылке в гугле и там в первой же главе описывается и говорится про алгоритм Кули Тьюки
Ссылки 1,2,4,5,7 сразу на алгоритм, ничего искать не надо, пока вы в википедию за алгоритмом полезете). Второй момент, алгоритм он дает очень даже верный, я проводил несколько исследований для себя, вполне себе крутые вещи дает, к примеру алгоритмы BVH и SAT, выделение Convex Hull по мешам. Он их не придумывает, а берет из кучи источников, причем хитро и правильно сплетает, дает источники, которые гуглить очень кропотливо, все это дает очень хороший прирост производительности труда. Это вовсе не отменяет работу, это просто отличный инструмент.
И опять 25, гугл у вас не забирают, тратьте время как вам нравится, пока мы уже используем новый инструмент.
Он может придумывать свои ответы, а может давать цитаты. Ты не знаешь заранее это цитата или то что он сам генерировал.
Ссылки 1,2,4,5,7 сразу на алгоритм, ничего искать не надо, пока вы в википедию за алгоритмом полезете).То есть сделал запрос чату - нажал на ссылку.
в гугуле сделал запрос - нажал на ссылку (статья в википедии быстрое преобразование фурье).
В чем разница?
Разница в том, что я за 1 запрос получил все в виде пары абзацев, где указан алгоритм, ссылки на него, краткое объяснение, оценка сложности, и пример алгоритма (причем правильного), далее я могу тут же попросить показать пример на другом языке, объяснить его смысл и т.д.
В классическом поиске вы получаете набор ссылок, которые надо в цикле перебрать, проанализировать каждую страницу до получения нужной вам информации, это на несколько шагов дальше до решения вашей конкретной задачи.
и как вы поняли что он правильный? По каким признакам?
Мне хватило опыта посмотреть ссылки, что он мне дал, и на medium по сути тот же алгоритм, это и так понятно, алгоритм не столь сложный. Если бы я занимался задачей, скомпилил бы код и посмотрел на тестовой выборке его работу.
А как вы в случае с гуглом, берете код с первого попавшегося ресурса, к примеру стекорфлоу и прям вставляете в код? Наверное же проверки на тестовых выборках делаете, и прочее тоже.
Так что в плане правильности в любом случае разработчик должен адаптировать и проверить работу кода. Только вот с ботом это все в разы быстрее получается, я уже пару месяцев использую для получения снипетов, 90% каркас дает правильно. Я конечно же не использую бинг напрямую, а использую расширение от open ai, если интересно, гляньте здесь https://marketplace.visualstudio.com/items?itemName=DanielSanMedium.dscodegpt , там и примеры работы.
А, то есть по ссылкам все равно нужно ходить и проверять не набредил ли чат этот алгоритм. Да еще смотреть что за сайты по ссылкам. Без этого нельзя. О чем и речь.
С первого попавшегося ресурса я не беру код. Я смотрю с какого ресурса я беру код, можно ли ему доверять.
На стековерфлоу можно посмотреть репутацию ответа, почитать комментарии и принять решение.
Что касается алгоритмов преобразования Фурье и других численных методов, то у меня есть книга в электронном виде с алгоритмами и с кодом реализующими эти алгоритмы называется
"Numerical Recipes in C. The Art of Scientific Computing."
Издательство: "CAMBRIDGE UNIVERSITY PRESS"
Авторы:
William H. Press
(Harvard-Smithsonian Center for Astrophysics)
Saul A. Teukolsky
(Department of Physics, Cornell University)
William T. Vetterling
(Polaroid Corporation)
Brian P. Flannery
(EXXON Research and Engineering Company)
Я не такой большой математик чтобы самому проверить правильность всех их алгоритмов и их реализаций на С. Но видя кто издательство и откуда авторы, я им доверяю.
А вот я прикладник математик как раз по образованию(конечно же многое выветрилось за время), и надо понимать, для таких задач как раз необходимо очень хорошо подтянуть теорию, прежде чем браться. В данном случае, имея под руками готовую библиотеку или исходники, вам как раз придется проверить работу для заказчика на каких то наборах данных, книга, гугл или чат в этом не помогут.
И как вы будете проверять например алгоритм быстрого преобразование фурье?
А как вы будете сдавать работу заказчику без проверки?
на вопрос можете ответить?
Вот вам ответ (на скрине). Если погружусь в теорию, смогу проверить, а вот вам без мат-подготовки, только остается довериться "черному ящику" из книжки, остается посочувствовать потенциальному заказчику.
ну всё, мозги скоро не нужны будут :)
Не туда дискуссия зашла. Фурье ведь только пример. Может ведь быть что-то что вы просто не можете сами проверить (по разные причинам). Вам просто надо будет доверять. Или не доверять.
Мою логику вы так и не опровергли или не поняли. Моя логика такая:
А) чат может цитировать из источников а может сам генерить код.
Б) доверия коду сгенерированному самим чатом нет - мы не на том уровне развития ИИ пока.
В) является ли код в ответе чата сгенерированным самим чатом или скопированным им из доверенного источника или из недоверенного источника - неизвестно.
Вывод: доверия коду из ответа чата нет.
А значит на кой этот код из ответа чата нужен. Лучше сразу идти по ссылкам. А значит чат выполняет роль гугла - то есть предоставляет ссылки.
И это не только кода касается.
Это как помнится - "Вывод: доверия вашОму интеренту нет."
Смотрите шире, никто не говорит, что бот сгенерит все, вообще заменит кодера, сделает комплексно систему, справится с убер алгоритмами. Большинсво работы занимают не убер алгоритмы, хотя я бы наверное мечтал о такой работе. В основном рабочий процесс рутина, полировка, рефакторинг, автотесты, запросы апишек и прочая хрень. Вот здесь бот справляется великолепно, посмотрите пример, просто валидация почты.
Справляется и с более сложными вещами, я уже много раз использовал, спокойно к примеру алгоритмы Convex Hull и Alpha Shape спокойно съел, причем с переменными из моего кода, проверить легко визуально на нескольких выборках, причем это уже в продакшене, все довольны. Я уж не говорю о всяких сортировках, фильтрах, это вообще 1 сек. На это теперь просто лень тратить время, и это сильно ускоряет разработку.
Вы так и не поняли что я вам написал. Как говорится я вам про Фому - вы мне про Ярёму. .
Я вас прекрасно понял по выводу " доверия вашОму интернету нет"
А вот вы до сих пор не поняли сути и пользы от чат gpt, хоть и разработчик, вроде из моих примеров хотя бы интерес к исследованиям должен проснуться, но нет - "мы не на том уровне развития ИИ". Хотя лично у меня уже в продакте много чего от него исправно работает) При наличии калькулятора продолжать считать в столбик весьма странно. Ну да ладно, каждому свое, на сим и закончим😎
Не к интернету нет доверия а к чату. К хреновине которая может сказать такое (сегодня только прочитал): "если вы будете держать мешок с фунтом перьев в одной руке и свинцовый шар весом 5 фунтов в другой руке, то свинцовый шар будет ощущаться тяжелее потому что он обладает большей массой. Тем не менее если вы взвесите свинцовый шар и перья на весах то они будут весить одинаково"... Потому что он ни хрена не понимает смысла того что он несёт. У него нет логики. Это просто такой гипертрофированный, обученный на гигантском объеме данных предсказатель следующего слова.
И не калькулятор это. Калькулятор не ошибается никогда.
Это только начало, интернет конца 90-х тоже был так себе, легче было пойти газету купить почитать новости или объявления. Когда появился iphone, на нем было пару приложений и говорили "кнопки все равно нужны всем", так что все с чегото начинается, и нейросети уже шагнули в народ, дальше эволюция неизбежна. Насколько знаю по новостям OpenAI, как раз основные силы после разработки языковых моделей и обучения брошены на фактчекингн, посмотрим за развитием. Но повторюсь, это уже хороший инструмент, если его правильно использовать.