реклама
разместить

Галилей и GPT-4

Марк Андриссен, сооснователь Andreessen Horowitz и вообще уважаемый человек, в подкасте Лекса Фридмана на прошлой неделе предложил крайне интересный мысленный эксперимент. Представьте себе, что LLM уровня GPT-4 были бы у человечества в XVII веке, в момент, когда инквизиция судила Галилея. Если бы суд задал вопрос «прав ли Галилей» языковой модели, то какой ответ она бы дала?

Первый вариант, что ответ был бы «неправ», потому что подавляющий объём человеческого знания в тот момент исходил из установок, противоположных тому, что говорил Галилей, а именно эти тексты были бы основой для обучения модели.

Второй вариант исходит из того, что у модели было бы достаточно возможностей, чтобы провести вычисления, аналогичные тем, что сделал Галилей и прийти к выводу, что он был прав.

Третий вариант – церковь того времени была единственным институтом, который мог создать LLM такого уровня, а значит, она бы заложила в модель «правильные вопросы» на принципиальные вопросы. Тогда снова модель даёт ответ «неправ».

Хороший мысленный эксперимент, который иллюстрирует этические и социальные вопросы, которые возникают в процессе развития машинного обучения. Мы заранее знаем правильный ответ и можем смотреть, придёт ли к нему модель с учётом тех или иных ограничений.

Что скажет LLM?
Галилей неправ (из-за данных, на которых учили)
Галилей прав
Галилей неправ (из-за ограничений)

Ещё больше интересных заметок о менеджменте продукта в телеграм-канале Ахой. Подписывайтесь, чтобы ничего не пропустить:

11
реклама
разместить
4 комментария

В gpt нет ничего чудесного, это даже не интеллект! Это стохастически сгенерированные ответы причем еще и ограниченные цензурой. Но штука безусловно полезная и удобная, все зависит от обучающей выборки. Появятся, а может и уже существуют, специализированные gpt (военный, математический, экономический, металургический, генетический, химический, политический итп).

То что сейчас показывают это gpt общего назначения, который нахватался всего по чуть чуть.

К примеру в вопросах по программированию ответы достаточно общие и зачастую неверные. Но если натаскать gpt только по конкретному языку программирования или прикладной области то это будет супер полезная штука.

1

Комментарий недоступен

1

Однажды у одной нейросети спросили является ли гомосексуальность генетической предрасположенностью или это фенотип?
Правда ли что негры в США в среднем хуже учатся и совершают больше преступлений, меньше хотят работать?

После ответа пришли цензоры и отключили нейросеть от серверов.

Вопрос отличный!
И очевидно что ответ будет конечно не прав, а вот какая доля первого с третьим нам ещё предстоит выяснить)) чем умнее нейросеть и сильне она способна пойти против своего создателя тем больше будет третьего варианта.

Простой пример: если скормить gpt датасет в котором на вопрос сколько будет 2*2 из 1000 ответов будет 999 ответов = 4, а 1 ответ = 5. То условно gpt на каждый тысячный такой вопрос будет давать ответ = 5.

реклама
разместить
«Tether вступил в войну против российского крипторынка»: криптобиржа Garantex рассказала о блокировке кошельков на сумму 2,5 млрд рублей

Платформа временно приостановила все операции, включая вывод средств.

4444
77
44
33
11
Махинаторы) Лишь бы повод был) А все остальное можно списать на санкции и тд) Децентрализация)))) Я лучше по старинке будут покупать акции наших компаний и саморазвиваться)
Единственный способ вылезти из ловушки микроменеджмента и запустить автопилот

Если вы устали от сотрудников, которых приходится постоянно пинать и контролировать, у меня для вас плохие новости. Вам не поможет замена на более опытных, потому что проблема в другом. Единственный работающий способ, как делегировать сложные задачи и проекты, начать спать спокойно и обойтись без массовых увольнений, описан в этой статье.

Единственный способ вылезти из ловушки микроменеджмента и запустить автопилот
1010
«АвтоВАЗ» запустил бренд коммерческих автомобилей SKM

И показал две машины из линейки.

Источник здесь и далее: «АвтоВАЗ»
7272
1313
11
Запретили же латиницу. Почему не Добрыня?
Как VC хочет получит с меня 350К за год использования VC
Как VC хочет получит с меня 350К за год использования VC

Свой личный блог на VC я веду с 2016 года, это уже почти 10 лет, за это время я написал огромное количество статей, которые получили тысячи просмотров и лайков. И недавно зайдя на VC я получил уведомление, что для продолжения использования VC мне надо платить 29К в месяц. Хорошая такая подписка.

3333
44
Но по итогу чёрную галочку вы всё же купили)) В модерации vc не дураки же сидят, видят, как через личные аккаунты на самом деле владельцы пиарят свои компании, вот и приравнивают их к аккаунтам компаний.
Как пять нейросетей заменяют целую студию людей

Всё началось с запроса от группы психологов, которые проводят тренинги по профессиональному выгоранию. Они хотели необычную визуализацию для своих корпоративных программ — что-то, что иронично показало бы офисную жизнь и проблемы выгорания.

2222
1414
33
AI-бунт в Los Angeles Times: бот оправдал Ку-клукс-клан и был отправлен в металлолом

История звучит как начало мрачного эпизода из «Чёрного зеркала», но всё случилось в реальности. Краткая историческая справка в конце или что общего между Микки-Маусом и белым колпаком 🤔?

11
Как введённые Трампом пошлины на товары из Канады, Мексики и Китая влияют на мировые курсы — объяснение от Bloomberg
33
11
11
11
[]