Галилей и GPT-4

Марк Андриссен, сооснователь Andreessen Horowitz и вообще уважаемый человек, в подкасте Лекса Фридмана на прошлой неделе предложил крайне интересный мысленный эксперимент. Представьте себе, что LLM уровня GPT-4 были бы у человечества в XVII веке, в момент, когда инквизиция судила Галилея. Если бы суд задал вопрос «прав ли Галилей» языковой модели, то какой ответ она бы дала?

Первый вариант, что ответ был бы «неправ», потому что подавляющий объём человеческого знания в тот момент исходил из установок, противоположных тому, что говорил Галилей, а именно эти тексты были бы основой для обучения модели.

Второй вариант исходит из того, что у модели было бы достаточно возможностей, чтобы провести вычисления, аналогичные тем, что сделал Галилей и прийти к выводу, что он был прав.

Третий вариант – церковь того времени была единственным институтом, который мог создать LLM такого уровня, а значит, она бы заложила в модель «правильные вопросы» на принципиальные вопросы. Тогда снова модель даёт ответ «неправ».

Хороший мысленный эксперимент, который иллюстрирует этические и социальные вопросы, которые возникают в процессе развития машинного обучения. Мы заранее знаем правильный ответ и можем смотреть, придёт ли к нему модель с учётом тех или иных ограничений.

Ещё больше интересных заметок о менеджменте продукта в телеграм-канале Ахой. Подписывайтесь, чтобы ничего не пропустить:

Как в Авито нанимают продактов

Как проджекту стать продактом и пройти собеседования в ведущие IT-компании: Яндекс, VK и Uzum

Зачем продукту дизайнер

Задачка, которая помогает отличить мидла от сеньора

Andreessen&Horowitz опубликовали ежегодный рейтинг Marketplace 100

Как продуктовый подход спас гитары Фендер