Почему величие нельзя планировать: Миф о цели

Перевод подкаста: “Шоу Джима Ратта”

EP130 Ken Stanley on Why Greatness Cannot Be Planned:

Материалы по теме:
Ken’s Site
Why Greatness Cannot Be Planned: The Myth of the Objective
JRS: EP25 Gary Marcus on Rebooting AI

Джим: Привет! Это Джим Ратт и “Шоу Джима Ратта”!

Джим: Слушатели часто просят нас предоставить некоторые ресурсы, о которых мы говорим в шоу. На данный момент мы предоставляем ссылки на книги и статьи, упомянутые в предыдущих эпизодах, они доступны на нашем веб-сайте. Мы также предлагаем полные стенограммы на jimruttshow.com

Джим: Сегодняшний гость – Кен Стэнли. Кен возглавляет исследовательскую группу по проблеме открытости в OpenAIon. Ранее он был профессором компьютерных наук в Университете Центральной Флориды, а также соучредителем корпорации Geometric Intelligence, Inc., которая была приобретена Uber. В 25 эпизоде у нас на шоу был еще один из его соучредителей, Гэри Маркус. Добро пожаловать, Кен.

Кен: Спасибо. Я действительно рад быть здесь.

Джим: Кен-человек, за работой которого я следил, на самом деле, много лет. Те, кто регулярно слушает шоу, знают, что я в некотором роде патологически одержим нейроэволюцией. И Кен, будучи членом одного из ведущих исследовательских нейроэволюционныых центров в мире – команды Техасского университета, также является создателем, вероятно, самого цитируемого нейроэволюционного инструмента под названием NEAT (NeuroEvolution of Augmenting Topologies - нейроэволюции увеличивающихся топологий) и последующего HyperNEAT. Он также разработал алгоритмы Поиска Новизны и POET. Его основными областями исследований являются нейроэволюция, генеративные и развивающие системы, коэволюция, машинное обучение для видеоигр и интерактивная эволюция, качественное разнообразие и открытость. Действительно интересный материал.

Кен: Да. С нетерпением жду возможности поговорить об этом.

Джим: На самом деле, изначально, когда я пригласил Кена на шоу, зная его работу и прочитав много его материалов за эти годы, мы изначально собирались говорить о его книге примерно половину эпизода. А затем мы собирались поговорить о текущем состоянии нейроэволюции, особенно в отношении искусственного интеллекта. Но после того, как я прочитал книгу, я обратился к нему и сказал: “Эта книга однозначно интересна и заслуживает отдельного эпизода”. Поэтому сегодня мы в основном поговорим о относительно недавней книге Кена "Почему величие невозможно спланировать: миф о цели", которую он написал в соавторстве с Джоэлом Леманом. Примерно через месяц Кен вернется на шоу, посвященное исключительно текущему состоянию игры и, возможно, немного истории нейроэволюции.

Итак, прежде чем мы перейдем к книге, пара концептуальных деталей, которые, я думаю, лучше всего представить заранее. Во-первых, это забавно, но когда я обычно читаю книгу, то создаю кучу, обычно около 100 аннотаций к книге, когда просматриваю ее в своем Kindle. И в этот раз я, должно быть, написал семь или восемь раз NFLT (No Free Lunch Theorem - Теорема об отсутствии бесплатного обеда). В конце концов в своём рассказе вы дойдете до этого, но я думаю, что это было бы полезно в качестве инструмента, к которому мы можем вернуться в ходе обсуждения, чтобы рассказать людям, что такое Теорема об отсутствии бесплатного обеда.

Кен: Теорема об отсутствии бесплатного обеда. Конечно. По сути NFLT – это теорема о способности алгоритмов оптимизации решать произвольные задачи в целом. И в принципе, идея заключается в том, что нет алгоритма, который мог бы быть хорош для решения практически всех возможных проблем оптимизации, с которыми вы можете столкнуться. И это в основном означает … Говоря более простым языком, это в основном означает, что ничто не может быть хорошим во всем. Поэтому, если вы станете хороши в определенных типах проблем, то заплатите за это тем, что будете хуже справляться с другими типами проблем. Это было своего рода сигналом общей оптимизации черного ящика: “Послушайте, даже если вы действительно преуспеваете в некоторых вещах, вы, вероятно, платите за это, делая хуже в некоторых других вещах”.

Джим: Я мог бы сказать своему другу Дейву Уолперту из Института Санта-Фе, что, когда я встречаю людей в области наук data science или машинного обучения, я сразу же определяю, глубоко ли они понимают Теорему о Не бесплатном обеде или нет. И довольно интересно, что люди попадают впросак. Обычно любой утверждает, что благодаря алгоритму у него есть волшебный ответ на что угодно, но я говорю: “Теорема об отсутствии бесплатного обеда”. И они выглядят немного застенчиво и говорят: “О, да. Конечно”. Но действительно важно, особенно в контексте того, о чем мы будем говорить сегодня, то, что в целом нет гарантированного правильного ответа. Хотя, конечно, еще одно отступление от теоремы об отсутствии бесплатного обеда состоит в том, что в любой данной области любые знания о домене могут быть использованы для выбора, подбора и настройки вашего алгоритма. Есть надежда, что это не просто бесконечный хаос, однако всегда нужно быть осторожным, чтобы не переоценивать подходы или алгоритмы. Другая концепция, к которой мы, вероятно, еще несколько раз обратимся, исходит из эволюционных вычислений. И в этом заключается идея эксплуатация в противовес исследованию». Я не думаю, что в книге есть хоть одно из этих слов, но, может быть, вы немного расскажете об этой концепции.

Кен: Да. В алгоритмах оптимизации и машинного обучения часто возникают такие вопросы, как эксплуатация и исследование, и они относятся к двум сторонам одной медали: когда вы пытаетесь что-то найти, иногда то, что вы делаете, вы можете назвать словом эксплуатация, что означает, что вы движетесь в направлении, которое увеличивает вашу награду. Что дела идут в гору. Поэтому вы продолжаете двигаться в этом направлении и это своего рода эксплуатация. В исследовании идея заключается в том, что вы как бы отклоняетесь от пути, который до сих пор указывал вам на увеличение вознаграждения. И идея в том, что вы исследуете, поэтому вы пытаетесь понять, может быть, есть еще лучшие вещи, которые не обязательно находятся на выгодном на первый взгляд пути. Я бы отметил, однако, что по мере погружения в книгу это различие или дихотомия окажется лишенным некоторых нюансов. На самом деле, алгоритмы – более тонкая вещь, чем просто эксплуатация и исследование. Но я думаю, что мы поговорим об этом немного позже.

Джим: Безусловно. На самом деле, я собирался подчеркнуть то же самое, ведь шаг за рамки всего – именно то, о чем мы собираемся поговорить сегодня. И на самом деле, я говорил об этом в подкасте много раз, первый раз, когда я применил науку о сложности в широком смысле и эволюционные вычисления в частности в своей деловой карьере, был связан с идеей эксплуатации по сравнению с исследованием на ландшафте пригодности для слияний и поглощений, хотите верьте, хотите нет, но это действительно сработало. Я хотел бы, чтобы у меня были инструменты, о которых мы сегодня поговорим и над которыми в конце подумаем, хотя, с другой стороны, мы поговорим об этом, когда этот открытый подход, действительно ли он практичен? Так что альтернатива открытому подходу, возможно, более утонченная, чем просто прямое восхождение на холм, восхождение на холм, то есть это просто всегда эксплуатируется, просто делается все лучше, лучше, лучше.

Есть также хитрость исследования, которая заключается в том, чтобы намеренно двигаться в направлении, которое не посылает сигнала о том, что мы становимся лучше, лучше, лучше. Но это может позволить нам стать лучше, лучше, лучше позже. Поэтому я думаю об этом как об альтернативе идее открытости Кена. Так что, да, миф об объективности, который в данном случае является подзаголовком книги, действительно великолепен. Я имею в виду, что это, по сути, основная глубокая идея книги. Расскажите о том, что вы имеете в виду, когда говорите об объективности, и, возможно, укажите, насколько она удивительно распространена в том, как мы думаем о мире.

Кен: Да. Эта книга на самом деле о том, что в нашем обществе и в нашей культуре почти все, что мы делаем, так или иначе руководствуется объективностью. Итак, что я подразумеваю под объективностью? Когда вы ставите конкретную цель и измеряете прогресс в достижении этой цели, то вы можете назвать это своей целью. А затем вы думаете о некоторых примерах вещей, которые управляются объективно, это похоже на то, как если бы вас оценивали в школе. Я имею в виду, что вы в основном пытаетесь максимизировать эту оценку. Или, в принципе, если, например, вы хотите получить работу, ваша цель-получить эту работу. Если вы хотите увеличить свой доход, ваша цель-получить более высокий доход. Так что есть много вещей, которые определяются целями. Существует много такого рода общественных или институциональных решений, которые также объективно обусловлены. Например, должны ли мы финансировать это или должны ли мы финансировать то в конечном счете обычно зависит от того, какова цель. И верим ли мы, что эта цель достижима.

Джим: Да. И, как вы указываете в книге, это больше, чем просто очевидные деловые вещи. Можем ли мы сделать больше гвоздей на фабрике в этом месяце? Что на самом деле может быть тем кейсом, когда постепенное улучшение - это правильный путь. Цель – становиться все лучше и лучше в изготовлении гвоздей. Но это проскальзывает везде. С того момента, как мы думаем о том, за кого выходим замуж и с кем встречаемся. Как вы говорите, это проскальзывает и в образовании, и в нашей карьере. Когда я читал книгу, я никогда по-настоящему не сосредотачивался на совершенно очевидном факте о том, что в 21 веке, по крайней мере, западные люди приняли цели близко к сердцу и организовали нашу жизнь почти полностью вокруг них. Так в чем же тут недостаток? “Эй, все время становись лучше”. Звучит неплохо. Так что в этом плохого?

Кен: Ну, одной из главных идей книги является то, что такой образ мышления имеет огромное количество недостатков, даже если поначалу такой путь может показаться очевидным. Проблема в том, что если все организовано вокруг целей, то это фактически лишает возможности исследовать и делать что-либо по причинам, которые на самом деле отличаются от целей. Например, делать что-то просто потому, что это интересно. И, в конечном счете, это имеет действительно большие затраты, потому что не только … Я имею в виду, что на поверхностном уровне, например, хорошо, вам не так весело, но на более глубоком уровне проблема в том, что есть много вещей, которых мы хотели бы достичь в этом мире, в нашем обществе или как личности, которые мы не можем достичь как цели, потому что мы просто не знаем, как их выполнить.

И это правда любопытно и исследования, которые в конечном счете дают некоторую надежду на то, что мы действительно сможем открыть некоторые из ступеней, необходимых нам для достижения этих гораздо более дальнодействующих открытий типа голубого неба (blue sky achievements – слэнг). Таким образом, цели на самом деле могут мешать более удачному открытию, которое было бы доступно нам, если бы мы не были так одержимы целями.

Джим: Да. И вы приводите очень хороший пример из проекта Picbreeder, который, к сожалению, больше не работает. По крайней мере, когда я зашел на сайт пару дней назад и когда я зашел на сайт снова сегодня утром, он не работал. Но почему бы вам не рассказать нам, что такое Picbreeder, и как он работал, и почему это очень интересный пример того, как объективное поведение отнимает множество возможностей.

Кен: Да. Это довольно нелогичное утверждение о том, что цели проблематичны. Так что я бы не решился естественным образом продвигать его или позиционировать как причину, если бы не тот факт, что мы провели несколько экспериментов в области искусственного интеллекта и лично столкнулись с некоторыми серьезными проблемами, касающимися целей, которые были неожиданными. И действительно, ключевым местом, где это начало проявляться, была эта штука под названием Picbreeder. И Picbreeder был веб-сайтом, который мы создали много лет назад, поэтому сейчас у нас, по сути, возникают некоторые проблемы с его запуском, но, надеюсь, мы сможем в скором времени наладить его работу. Когда мы его установили, это была очень новая система, в которой вы могли бы «размножить» фотографии.

«Разведение» картинок – это просто какая-то странная концепция, но это похоже на разведение собак или разведение лошадей. Вы могли бы сделать снимок, вы могли бы попросить, чтобы на снимке было потомство, и потомство немного отличалось бы от своих родителей, как у животных. И самое классное, однако, было то, что если вы действительно превратили фотографию во что-то интересное, то вы могли бы опубликовать ее, и она вернулась бы на веб-сайт, и другие люди могли бы это увидеть, так что фотографии правда могли «размножаться».

Итак, это была своего рода забавная игра и, возможно, просто игрушка для некоторых людей, но в конечном счете, чего я не ожидал, она была действительно глубоко показательна. Мы заметили просто умопомрачительный основополагающий феномен, когда мы посмотрели на все действительно интересные открытия на сайте, на изображения, казалось бы, таких привычных вещей, как бабочки или автомобили, наш череп. Там был обнаружен прекрасный череп. И мы посмотрели на эти изображения и подумали: ну, как люди на самом деле получили эти вещи? Как люди относились к ним? И мы обнаружили, что на самом деле, почти в каждом отдельном случае, они получали данные изображения только тогда, когда не стремились их получить. Это очень нелогично. Это звучит очень странно. Вы можете найти вещи, только не ища их. Это напрямую связано с проблемой целей, потому что, конечно, если это правда, то было бы действительно плохой идеей иметь в виду определенный образ в качестве своей цели, а затем пытаться приблизиться к нему, потому что вы почти наверняка потерпите неудачу, ведь единственный способ добраться до вещей-это не пытаться добраться до них. Если это на самом деле общий принцип, согласно которому часто единственный способ добраться до определенных видов открытий-это не пытаться добраться до них, то постановка целей может быть очень плохой для вас, если вы хотите открыть те вещи, которые можно создать или открыть, но просто не удобно открывать с помощью объективных видов поиска.

Итак, Picbreeder был своего рода первым проявлением этого принципа. И вы можете спросить, как мы узнали об этом. Я имею в виду, очевидно, это звучит действительно странно. Как мы это поняли или заметили это явление, но для начала я могу просто сказать, что мы это сделали, и это было довольно удивительно для меня, потому что в основном противоречило всему, что я когда-либо слышал о том, как работает достижение. Я имею в виду, когда вы идете в школу или получаете диплом инженера, вы должны знать, что нужно сделать, чтобы получить желаемое. И это сработало прямо противоположным образом.

Джим: Да, довольно интересно. Я обдумывал аналогичный проект 19 лет назад, в котором у меня должен был быть генератор искусства и который в основном выбрасывал по сути 50 линий, нарисованных кривыми Безье. Я не помню, были ли они квадратными или линейными, или что-то в этом роде. И в основном они были переопределены в терминах искусственной ДНК, и вы бы сделали из них матрицу четыре на четыре и выбрали ту, которая больше всего походила на то, что вы пытались сделать. И то, что я собирался сделать в качестве доказательства принципа, было попыткой представить изображение лица Авраама Линкольна и посмотреть, смогу ли я начать с 16 случайных набросков и приблизиться к изображению Авраама Линкольна, но я не cделал проект.

Судя по описанию в книге, похоже, что вы действительно экспериментировали, пытаясь заставить людей стремиться к определенной цели, а не просто искать то, что может быть интересным. Может быть, если бы вы могли немного разобраться с этим, это было бы круто.

Кен: Да. Как только мы заметили, что происходит такое явление, когда люди открывают вещи, не ища их, конечно, мы тогда очень заинтересовались тем, что происходит, когда вы действительно что-то ищете. И мы провели много экспериментов в этом направлении. Мы можем анекдотически говорить о том, как это трудно. Если окажется, что, если вы пойдете в Picbreeder и у вас на уме будет определенный тип изображения, может быть, вы захотите получить фотографию, скажем, яблока или что-то в этом роде, это будет очень, очень сложно. Вы, вероятно, потерпите неудачу, и именно поэтому сайт действительно разочаровал многих людей, потому что вы видите там все эти изображения и думаете: "О, это будет весело. Я просто создам все, что захочу». А потом не можешь.

Но помимо всего этого анекдотического свидетельства, мы также проводили эксперименты, в которых намеренно ставили цели для автоматизированного процесса, что означает, что мы в основном запустили алгоритм поиска без участия людей в цикле, где целью было конкретное целевое изображение. И мы не пытались использовать эволюцию, потому что, в конце концов, эволюция-это то, что используется внутри селекционера, просто для того, чтобы двигаться непосредственно к этой цели на основе сопоставления изображений. И эти опыты также с треском провалились, за исключением очень, очень простых изображений. И мы понимаем, почему, что, вероятно, важнее, чем просто доказательства, ведь понимание говорит нам о том, почему это вообще имеет какой-то смысл.

И причина в том, что, если вы подумаете об этом, ступеньки, которые ведут к тем вещам, которые вы хотите, в данном случае изображения, не обязательно похожи на них. Если вы хотите добраться до черепа, плохая новость в том, что вещи, которые ведут к черепам, не похожи на черепа. Так что это объясняет, почему было бы действительно плохой идеей всегда иметь в голове череп и говорить: “Это моя цель”. Потому что, когда вы приближаетесь к черепу и видите вещи, которые не похожи на черепа, вы отбрасываете эти вещи и избегаете этих вещей. Но на самом деле это важнейшие ступени, которые вам нужно пересечь, чтобы добраться до черепа. И на самом деле, это верно для каждого, почти каждого интересного изображения на сайте. И это даже не удивительно, если вы действительно подумаете об этом.

Я имею в виду, что в сложном пространстве поиска, конечно, будет какой-то обман, который мы называем своего рода трюком, когда ступеньки на самом деле не похожи на конечный продукт, потому что, если бы его не было, это было бы чрезвычайно просто. Я имею в виду, все трудные проблемы эффективно обманчивые, иначе их не назвали бы трудными проблемами. А сложные проблемы существуют в сложных пространствах. Так что в некотором смысле это разумная и ожидаемая ситуация, но самое интересное и уникальное в ней то, что мы видим такой резкий контраст, что цель настолько патологична, потому что в нашей культуре мы считаем, что цели-это средство достичь чего угодно. И здесь вы видите прямо противоположное, где они на самом деле являются чем-то, что мешает вам добраться куда угодно. Так что есть над чем поразмыслить, действительно ли это применимо не только к Picbreeder.

Джим: Да. И мы поговорим об этом позже. Чтобы получить представление о том, насколько удивительно велико пространство возможных изображений, я просто сделал несколько простых вычислений. Давайте возьмем простой случай черно-белого изображения размером 1000 на 1000. Количество возможных изображений составляет два к миллиону. Какого черта? Насколько это велико? Что ж, перейдем к тому, что мы думаем о силах в 10 лет. Это 10 к 100 000. Один, за которым следует 100 000 нулей, если я правильно сделал свои логарифмы. Я думаю, что да. И это сопоставимо с количеством фундаментальных частиц во Вселенной. Каково количество людей, количество кварков, электронов и протонов, по сравнению с черно-белым изображением 1000 на 1000, которое сегодня считалось бы низким, от 10 до 100 000. И, конечно, ваше пространство было еще больше … Была ли это серая шкала или это был цвет?

Кен: Цвет. Это был цвет, да.

Джим: Это были цветные изображения. Так что это было даже … Не то чтобы это имело для вас большое значение, компетентные придурки все равно взрываются до невероятно смешного количества. И у вас была очень интересная метафора. Вы назвали это комнатой всех образов. По сути, это может быть буржуазная библиотека. Может быть, если бы вы немного рассказали нам о том, что такое идея комнаты всех изображений и как идея ступеней каким-то образом возникает в результате этого мысленного эксперимента.

Кен: Конечно. Я имею в виду, что вы могли бы говорить о комнате всех образов или даже о комнате всех возможных вещей. Все вещи, которые вы когда-либо могли бы изобрести, и если вы представите их все вместе в каком-то огромном, огромном пространстве. Мы помещаем их на склад, склад размером с солнечную систему или что-то в этом роде, тогда вы можете представить, что в этой комнате будет какая-то организация, что вычислительные устройства будут находиться в одном углу, а картины-в каком-то другом, и они каким-то образом находятся рядом друг с другом. Так что в организации этой комнаты есть какая-то логика. И логика, которая в некотором роде определяет организацию этого пространства, которое является пространством в основном всех возможных вещей, которые могут быть созданы, - это своего рода логика, которую вам нужно понять, чтобы найти вещи в комнате.

И что интересно, однако, так это то, что организация этой гигантской комнаты из всех возможных вещей не будет интуитивно понятной. Будут некоторые вещи, которые находятся рядом друг с другом, которые изначально не имеют смысла. Например, тот факт, что вакуумные трубки ведут к компьютеру. На самом деле, мы можем представить, что в этой комнате рядом с компьютерами находятся вакуумные трубки, потому что в реальной истории вычислений первые компьютеры были сделаны с помощью вакуумных трубок. Но вы бы не подумали, что вам следует идти в ту часть комнаты, которая заполнена вакуумными лампами, если вы хотите найти компьютер. Это противоречит здравому смыслу. И поэтому такого рода явления происходили бы снова и снова. Таким образом, комната – это своего рода метафора для организации пространства всего существующего, показывающая насколько, в конечном счете, эта организация противоречит здравому смыслу и насколько трудно ориентироваться в этой комнате только по целям.

Джим: Да, в каком-то смысле это чертовски глобальная тема. В мире великое множество возможностей. Хотя я действительно хочу отбросить это, вакуумная трубка была одним из путей к вычислениям. Если мы мыслим масштабно и открыто, мы должны помнить, что есть по крайней мере два других путя, служившие аналоговыми компьютерами таких людей, как Ванневар Буш. Он не пользовался вакуумными трубками. Он использовал шестерни, оси и все такое прочее. А с другой стороны, я провел небольшое забавное исследование и увидел, что вы действительно можете создать эквивалент цифрового компьютера, используя электромагнитные и электромеханические реле. Люди делали это и могут продолжать делать это. Факт существования других путей к вычислениям подкрепляет вашу историю.

Кен: Это будет справедливо практически для любого сложного пространства. Я имею в виду, что с фотографиями, конечно, был определенный путь, по которому следовали, чтобы найти изображение черепа в Picbreeder, но, конечно, есть и другие возможные пути. Никто его не нашел, но, конечно, будет бесконечный набор путей, потому что существует бесконечный набор траекторий, которые могут привести к одной и той же точке. Но в чем мы можем быть совершенно уверены, так это в том, что почти все эти пути будут в некотором роде противоречить здравому смыслу. Вы не можете убежать от того факта, что к чему-то может вести несколько путей. Если бы эти слова не противоречили здравому смыслу, если бы они не были обманчивы, нельзя было бы считать проблему трудной.

Джим: Итак, вы дважды упомянули об обмане. Давайте немного углубимся в эту концепцию, потому что она оказывается довольно фундаментальной для остальной части истории. И я думаю, что один из самых простых способов получить хотя бы простодушную версию того, что такое обман, - это немного поговорить о роботизированной мыши в лабиринте.

Кен: Да. Проблема обмана заключается в том, что, когда вы думаете, что движетесь в правильном направлении, на самом деле это не так. Или наоборот, когда вы действительно думаете, что движетесь в неправильном направлении, оказывается, что вы на самом деле были на правильном пути. И мышь в лабиринте-это своего рода метафора для этого. Мы помещаем робота в лабиринт, и не можем видеть дальше стен. Таким образом, мы в принципе не видим, где находится конечная точка, но мы можем сказать роботу, насколько близко он находится к конечной точке. И это что-то вроде небольшого сигнала для робота, чтобы он знал, движется ли он в правильном направлении или в неправильном. Если вы подумаете об этом, то это, по сути, мешают достижению цели.

Получается, что конечная точка в лабиринте-это цель. И мы сообщаем роботу, как близко он находится. И это очень важная метафора, потому что в основном именно так мы управляем делами в нашем обществе. Мы в основном говорим: “Давайте установим метрику и измерим, насколько мы близки к тому, где хотим быть. И это должно помочь нам найти выход из лабиринта”. И проблема в том, что, конечно, вы можете двигаться к цели и на самом деле видеть, как сокращается ваше расстояние до цели, даже если вы фактически идете прямо в тупик. И это означает, что, в конце концов, вы будете продолжать получать все более и более высокие баллы, а затем просто застрянете, потому что не сможете продолжать двигаться вперед. Значит, вас обманули. Казалось, что все идет хорошо, что все движется в правильном направлении, но по итогу вы просто врезались в кирпичную стену, в этом и заключается обман.

Джим: Теперь, чтобы немного разобраться в данной ситуации, еще немного порассуждаем над примером. Да, действительно мышь почти неизбежно провалится в лабиринте. Вам придется добавить много шума, чтобы вывести ее из него, но есть также довольно простые алгоритмы, которые позволят мыши относительно эффективно перемещаться по лабиринту. Например, алгоритм Тремо, который, по сути, отмечает, где уже была мышь, и для выхода из лабиринта использует тот факт, что если вы дважды повторите одно и то же пересечение, то вы вернетесь тем же путем, которым пришли. Этот удивительно простой алгоритм на самом деле гарантированно решит даже довольно обманчивый лабиринт на удивление быстро. Как идея этих простых алгоритмов входит в идею обмана?

Кен: Вы правы, следует иметь в виду, что, на самом деле, это просто метафора. Цель здесь состоит в том, чтобы просто использовать это как метафору. И вы должны учитывать, что в основном, когда мы говорим: “Мы не знаем, как пройти через лабиринт”. На самом деле, как вы указали, практическая реальность того, как пройти через лабиринт, заключается в том, что мы действительно кое-что знаем о лабиринтах, и мы можем использовать это понимание для создания алгоритма, у которого, при наличии достаточного времени, есть шанс добраться до выхода. Но дело в том, что мы просто используем это как метафору для проблем, в которых мы не знаем о пространстве поиска. Это важный момент здесь.

Если мы ничего не знаем о пространстве поиска, и оно очень многомерно, в отличие от обычного двумерного лабиринта, это будет … Вы можете находиться в 100-мерном, 1000-мерном, миллионном пространстве поиска, если мы говорим о реальном мире. Лабиринт-хорошая метафора, когда у вас просто есть этот очень наивный маяк, который говорит: “Хорошо, я приближаюсь или нет?” Как и GPS, потому что это то, чем мы фактически занимаемся. Я имею в виду, это звучит почти нелепо. Вы бы на самом деле попытались решить лабиринт таким образом на практике? Нет. Но именно так мы пытаемся решать сложные проблемы реального мира. У нас есть какие-то очень-очень упрощенные показатели, например, максимизируем ли мы прибыль за год? Это как единая мера. И затем мы используем это, чтобы определить, движется ли этот гигантский многомерный поиск в правильном направлении. Совсем как наивная мышь в лабиринте.

Джим: Да. Я могу привести вам личный пример, реальность этой перспективы. Один из советов, которые вы получаете от людей для управления своей карьерой, - всегда повышайте зарплату, когда вы переходите из одной компании в другую. Что-то вроде банальности. И я всегда был противником, и трижды я действительно сокращал зарплату, чтобы сделать шаг. Один раз – на 40%. И все эти решения оказались правильным ходом. Так что, если бы я строго подавал заявку на «восхождение на холм», всегда получал повышение зарплаты и, конечно, никогда не снижал её, тем более на 40%, я бы пропустил самые интересные моменты своей карьеры.

Кен: Правильно. Да. Это отличный пример. Да. Я имею в виду, что если вы хотите заработать невероятные суммы денег, возможно, это не очень хорошая эвристика, чтобы просто сказать: “Хорошо, мне просто нужно максимизировать свою зарплату”. Потому что ступеньки, ведущие к огромному богатству, просто не имеют к этому почти никакого отношения. Так что это было бы обманчивой мерой.

Джим: Да. В этом случае это кажется абсолютно верным. Другой пример, который я приведу, и мне он нравится, потому что он такой домашний, - это китайская ловушка для пальцев. Помнишь, когда мы были детьми, мы покупали их за пять центов в аптеке. Возможно, сейчас они стоят больше. Вы втыкаете палец в обе стороны этой плетеной соломенной штуки, и фокус в том, что если вы попытаетесь вытащить пальцы, вы не сможете их вытащить. Так почему бы вам немного не поговорить об этом, ведь этот еще один очень простой пример обмана, возможно, поможет донести вашу идею до людей.

Кен: Верно, верно. Обращусь к интуитивной метафоре. Я имею в виду, что в основном это очень, очень простая проблема поиска. Ты засунул свои пальцы в эту ловушку. И если вы тянете наружу, кажется, что вы движетесь в правильном направлении, потому что в основном вы хотите выйти именно туда. Но оказывается, что ловушка на самом деле становится все туже, чем дальше вы вытаскиваете. Поэтому, если вы измеряете расстояние до своей цели, она становится все ближе. Таким образом, кажется, что все идет в правильном направлении, но на самом деле вы идете в прямо противоположном, как и следовало бы, потому что, вопреки здравому смыслу (именно поэтому это называется ловушкой), вы должны толкать пальцы внутрь, хотя так кажется, что вы на самом деле стремитесь оказаться в ловушке. Но это не так, потому что ловушка предназначена для того, чтобы открываться, когда вы толкаете внутрь. Так что это просто обманчиво по замыслу. И это очень простая форма обмана. Но если вы подумаете об этом, это так просто, и все же люди застревают в этом и обманываются на некоторое время. Представьте себе проблему реального масштаба, которая в миллион раз сложнее, чем это. Я имею в виду, что обман, с которым мы сталкиваемся, просто ошеломляет и патологичен, если мы руководствуемся только целями.

Джим: Да, это похоже на проблему разведки добычи, хотя и не совсем то же самое. «Предупреждение о подозрении к целям верно для больших скачков, но может быть неверным для относительно небольших». Не могли бы вы, может быть, немного подправить это?

Кен: Да. Я думаю, что это важная уступка, потому что она как бы отличает точку зрения, которую излагает книга, от важного комментария к тому, чтобы быть похожим на чудака, которым был бы кто-то, кто сказал бы: “Просто забудьте все цели в жизни и полностью прекратите иметь цели”. Это не очень мудрый поступок. И мы должны признать это особенно в том случае, когда ваши цели находятся относительно близко или, как мы это называем, в шаге от вас. Например, если вы хотите пообедать, вы можете сделать это целью, и это очень разумно. Вам не нужно просто бродить по своему дому в случае, если вы можете найти что-то, чего не ожидали, это было бы не очень умно. Ты просто идешь к холодильнику и делаешь свой бутерброд.

Есть много вещей. И эти вещи даже немного более сложные, чем это. Возможно, вы являетесь компанией и пытаетесь обновить свое программное обеспечение до следующей версии. Это может быть целью. Это не слишком амбициозно. Это не невероятно большой скачок с того места, где вы уже находитесь. Такого рода вещи могут работать объективно. Мы говорим о вещах, в которых мы просто не знаем, каковы промежуточные ступени, чтобы попасть туда, куда мы хотим попасть. Что-то вроде лечения рака или создания искусственного интеллекта, если уж на то пошло. Там ясно, что мы понятия не имеем, куда нам нужно отправиться на пути к достижению этой конкретной цели. И это те места, где в игру вступает такого рода объективный парадокс, как мы могли бы его назвать.

Джим: Да, очень круто. Мне это показалось очень интересным. Хотя я бы немного придрался, как бывший предприниматель и деловой чувак, и все такое, да, мы бы посмотрели больше, чем одну ссылку, посмотрели несколько ссылок. Но если вы попытаетесь зайти слишком далеко, вы просто потратите свое время впустую. И одна из истин, которую я советую молодым предпринимателям, заключается в том, что в основном инновации в сфере бизнес-технологий – это, на мой взгляд, оптимально две вещи. Одна из них-это рекомбинация того, что существует в настоящее время. У Брайана Артура есть действительно хорошая книга "Природа технологий", в которой он разбирается в этом вопросе довольно подробно. Кстати в следующем месяце у нас будет Брайан на шоу. Я думаю, что многое из того, что мы считаем инновациями, - это рекомбинация существующих элементов. Например, нынешняя популярность электрических велосипедов. В электрическом велосипеде нет никакой магии. Это просто уникальное сочетание вещей, которые стали достаточно хорошими и достаточно дешевыми по другим причинам, о которых мы поговорим в нашем следующем примере, и никакой настоящей магии.

Но я заметил, что существует миллион компаний по производству электрических велосипедов, и большинство из них терпят неудачу. Поэтому, когда я советую людям искать интересные возможности в бизнесе, обратите внимание на то, что содержит новое сочетание существующих технологий плюс одну новую вещь. Ровно одна новая вещь. Не меньше одной новой вещи и не больше. Потому что, если вам нужно решить две новые задачи, вы попадаете в эту сумасшедшую страну, где вы блуждаете и не знаете, в какую сторону идти. Если у вас нет новых вещей, вы закончили так же, как 500 компаний по производству электрических велосипедов, из которых 497, вероятно, обанкротятся через пять лет. Так что это немного более тонко, чем просто один шаг. Но, тем не менее, давайте перейдем к очень интересному примеру, который, как мне кажется, начинает проникать в самую суть видения, которое вы пытаетесь донести здесь, - это идея компьютера и то, что произошло бы, если бы вы захотели разработать компьютер 5000 лет назад.

Кен: Да. Так что это мысленный эксперимент, чтобы рассмотреть значение целей. И есть несколько ступенек, которые нужно пересечь, чтобы добраться до компьютера. Как вы отметили, на самом деле, вероятно, существует более одного пути, по которому вы могли бы пойти. Но в качестве аргумента мы знаем, что в современных компьютерах есть определенные вещи, которые вам нужны. Вам нужно, например, электричество, и вы могли бы сказать, что, возможно, вакуумные трубки были одним из важных путей. И, очевидно, есть множество вещей, которые можно использовать в компьютерах. И поэтому проблема в том, однако, что давайте вернемся на 5000 лет назад и просто забудем об этих вещах, которые являются промежуточными ступенями, и просто подумаем о конечной цели, которая является компьютером. А затем спросите, почему мы ждали 5000 лет, чтобы сделать это? Почему мы не сделали этого 5000 лет назад? Итак, давайте возьмем, как 5000 лет назад, всех самых умных людей, соберем их вместе в особом Манхэттенском проекте и скажем: “Послушайте, ребята, возможно, есть кое-что, о чем вы, возможно, на самом деле не думали, а именно компьютер. Почему вы тратите время, работая над тем, над чем вы работаете прямо сейчас? Давайте приступим к работе над этим”.

И самое интересное, что, если вы это сделали, проблема в том, что все ступеньки еще не существуют. Здесь нет электричества. Оно еще не было обнаружено, как и множество других вещей. И что бы вы сделали? Вы бы в основном уничтожили весь этот умственный капитал, то есть всех этих людей с их огромным потенциалом, которые в свое время могли бы открыть для себя все эти важные «вещи». Потому что теперь они все будут просто думать о компьютерах, но у них нет необходимых им ступеней, и они не стали бы их создавать, потому что им не пришло бы в голову, что нужно создавать вакуумные трубки, потому что никто не имеет понятия, какие вещи приводят к компьютерам.

Таким образом, вы не только не получите компьютеры, но и не получите ступеней, и вы потратите все усилия и ресурсы, которые могут предложить эти люди. Было бы гигантской катастрофой, если бы вы попытались совершить подобное. Таким образом, это своего рода мысленный эксперимент, иллюстрирующий, в каком-то крайнем случае, насколько разрушительным может быть попытка навязать цели людям, которые в противном случае занимались бы чем-то совершенно другим, движимым любопытством в другом направлении.

Джим: И все же, это круто, вот где мои брови действительно начали подниматься, когда я читал эту книгу, но, тем не менее, мы перешли от 5000 лет назад к компьютерам без плана, потому что люди занимались локальной оптимизацией, о которой мы поговорим через несколько минут. И каким-то образом мы создали достаточно ступеней, чтобы добраться, скажем, до 1940 года или около того, когда люди сказали: “Хорошо, это один или два или три шага, чтобы иметь компьютер. И это было бы здорово для борьбы с нацистами, чтобы мы могли рассчитать траектории для ...” Я думаю, что изначально это были зенитные пушки. И это дало миру стимул сделать два или три шага и перейти от 5000 лет незапланированных движений к компьютеру к окончательному взрыву плана. Когда это пришло мне в голову, я понял, ах, вот о чем говорит Кен.

Кен: Правильно. Вот что самое удивительное во всем этом, если учесть, что, хотя было бы безумием вернуться туда и сказать всем этим людям, чтобы они построили компьютер, каким-то образом за прошедшие 5000 лет без плана это все равно произошло. И на самом деле, это похоже на единственный способ, которым это могло произойти. Этого не могло произойти, просто вернувшись туда и сказав всем собрать компьютер. Это должно было произойти таким органичным незапланированным образом, и именно поэтому название книги - "Почему величие не может быть спланировано". И это показывает, что есть еще один способ достижения удивительных вещей, гораздо более таинственный и менее обсуждаемый, но это не случайный способ, как его охарактеризовали бы некоторые люди. Это принципиально. Такого рода исследования, которые приводят к этим невероятным целям, следуют определенным принципам, которые и пытается изложить книга. И это то, с чем мы должны бороться, например, с этим альтернативным способом достижения действительно голубого неба (blue sky achievements – слэнг), что почти похоже на волшебство. Я имею в виду, потому что это правда произошло. Сегодня у нас есть компьютеры.

Джим: Безусловно. Мы собираемся отправиться туда. Мы собираемся совершить довольно большое, глубокое погружение в ... Ладно, это не может быть случайным блужданием. Я имею в виду, мы знаем, что существует от 10 до 100 000 изображений, и мы никогда не посетим какой-либо измеримый процент из них случайным образом. Но прежде чем мы это сделаем, давайте немного поговорим о некоторых субъективных аспектах этого. Вы говорите в книге, и это прямая цитата: “Почему многие из нас чувствуют, что наше творчество подавляется машинной интеграцией современного общества?” А затем углубляетесь в это еще немного и говорите о том, что это просто в некотором роде сокрушает многих из нас. И вы приводите несколько очень интересных примеров того, как отсутствие жестких рамок в нашей карьере может привести к действительно интересным результатам. На мой взгляд, очень интересной была история о Джонни Деппе. Может быть, вы могли бы рассказать нам ее.

Кен: Да, Джонни Депп, это … Я надеюсь, что все это правильно понял из моих исследований, но изначально его интересовало быть музыкантом. И, очевидно, мы видели, что он любит музыку, в последние годы он играл в группах, и его первоначальный карьерный путь был в этом направлении. Так что он не думал о том, чтобы действовать, и это была просто какая-то счастливая связь, которая установилась. Я считаю, что через подругу или кого-то еще он услышал: “Почему бы тебе не попробовать себя на роль?” Или что-то в этом роде. Таким образом, в конечном счете он воспользовался этой возможностью, что не соответствовало его первоначальной цели. И это выстрелило. Я думаю, такого рода случайности являются очень распространенной историей среди успешных людей, и это интересно, потому что соответствует теме книги.

Джим: Да. И еще одна цитата: “Рецензируемое исследование показало, что почти две трети взрослых приписывают случайности какой-то аспект своего выбора карьеры”. И я могу сказать, что моя собственная история в моей карьере была, опять же, обусловлена подобными вещами. Честно говоря, я был недовольным юношей, когда окончил колледж, не хотел участвовать в мировой рутине и делал немного того, немного другого, путешествовал автостопом по стране, некоторое время продавал автомобили, чтобы погасить студенческие ссуды. А потом я получил самую легкую работу, которую смог найти, а именно … Ты был профессором колледжа. Ты помнишь нас, надоедливых гребцов из колледжа? Помнишь тех парней? Я был одним из них. Это была действительно легкая работа. У меня оставалось много времени для моих собственных проектов, размышлений, писательства и так далее, и это было идеально для такого рода разочарованной молодежи, которая не хотела слишком усердно «играть в игру», но хотела зарабатывать достаточно денег, чтобы жить скромно.

Но вот в 1979 или, может быть, в конце 78-го я просто бродил по округе, посещал 15 профессоров в день, как мы и должны были делать. И, к сожалению, как только вы научились быть хрестоматийным гребцом колледжа, вам нужно было делать это всего около 12 недель в году. В остальное время можно делать все, что захочешь. В любом случае, я начал видеть эти штуки на столах профессоров и однажды спросил, что это, черт возьми, такое? Мне сказали: “Это компьютер”. И я спрашиваю: “Что?” Это было в первые дни появления персональных компьютеров и вещей, о которых вы с тех пор никогда не слышали, North Star Horizon, MITS, MSI и так далее. И я говорю: “Вау, как интересно”. И я немного занимался компьютерными вещами в колледже. Немного, но достаточно, чтобы знать, что мне не нравилась культура вычислений в 1975 году, когда я окончил колледж, а это был мэйнфрейм IBM, перфокарты и все такое прочее. Я ухожу и не хочу иметь ничего общего с этими людьми. Но вдруг, когда я вижу эту идею вашего собственного компьютера, я говорю: “Срань господня. Это действительно интересно". И если бы у меня не было этой работы в то время, предположим, я был продавцом тормозных колодок, ездившим ремонтировать гаражи в 1978 или 79-м, я бы ни за что не увидел компьютер, но я оказался классическим гребцом. Мне довелось видеть профессоров, часто профессоров-инженеров, иногда математиков, у которых были эти маленькие компьютеры, и я сказал: “Черт, это интересно”. Интересно – важное слово. Поэтому я начал исследовать, начал зависать в компьютерных магазинах и тому подобном. А потом, в следующем году, я сказал: “ В этом есть что-то действительно интересное и важное". И я пошел и потратил 90% своего собственного капитала, 4500 долларов, насколько я помню, на полностью загруженный Apple 2 и высококачественный графический матричный принтер с поддержкой точечной матрицы. И на самом деле, я думаю, что в то время я был единственным парнем в Лексингтоне, штат Кентукки, у которого было два дисковода. Люди любили приходить ко мне домой, чтобы скопировать программное обеспечение. Так или иначе, это прекрасный пример правильного места, правильного времени и прозорливости. Теперь мы перейдем к, на мой взгляд, одной из ваших наиболее интересных концепций. Я каким-то образом пришел к выводу, что персональные компьютеры принципиально интересны, и я сделал шаг в этом направлении и продолжил писать программу "Чемпион мира", коллега, а затем занялся первыми днями индустрии онлайн-информации, а остальное, как говорится, стало историей. Откровенно говоря, благодаря тому, что я увидел профессора Икс … увидел на математическом факультете Университета Кентукки.

Итак, в книге вы довольно много говорите о двух темах новизны и интересности, которые в некотором роде связаны. Давайте погрузимся в обе, в любом порядке, в каком вы хотите.

Кен: Да. И, кстати, отличная история. Это был действительно отличный пример. Давайте на секунду задумаемся об интересности, поскольку именно этого на самом деле касается эта история. Концепция заинтересованности действительно важна в книге, отчасти потому, что, как вы сказали, существует проблема субъективности, которая заставляет людей чувствовать себя очень неловко. Особенно ученые, но также и бюрократы. Люди, которые управляют делами, любят быть объективными, это заставляет их чувствовать себя более комфортно. «Как я могу знать, что то, что вы пытаетесь сделать, сработает? Ну, мне нужны какие-то объективные показатели, чтобы я мог реально измерить и знать, что мы действительно движемся в правильном направлении», и так далее, и так далее.

И все же, как и в вашей истории, вы предпринимаете так много шагов, которые на самом деле приводят к большому успеху в долгосрочной перспективе, что на самом деле не включает в себя какой-то объективный показатель. Если вдуматься, в слове "цель" есть своего рода интересная двойственность. Цель-это то, к чему вы движетесь, но также и цель-это слово, которое мы используем для описания вещей, которые мы действительно можем измерить и которыми можно поделиться. Итак, наука говорит об объективности, и нам нужно уметь быть объективными, чтобы понять результат наших экспериментов. Это другое понятие объективного, которое в некотором роде отличается от субъективного, и больше похоже на то, как я себя чувствую с моей субъективной точки зрения, когда я рассматриваю созерцание, идущее по этому пути, а не по тому.

И мы просто совсем не верим в это, ни в какой консенсус, который у нас есть о том, как все должно быть устроено. Индивидуально у вас может быть сильная склонность к вашему субъективному восприятию, но как общество мы действительно не доверяем субъективности. И почти никто не согласился бы, если бы вы просто сказали им, что это ваше субъективное впечатление. «Все в порядке, мы идем к боссу. Так что вот что, я думаю, мы должны сделать». Ну, а зачем нам это делать? Как это нам поможет? «Ну, это просто, это интересно. Давайте просто сделаем это, потому что это действительно интересно». Ну, это, вероятно, не сработает, потому что это полностью субъективно. Это похоже на то, что не говори мне, что это интересно. Скажите мне точно, как это повлияет на конечный результат, что на самом деле произойдет?

И проблема в том, что на самом деле эта одержимость целями также является одержимостью объективностью, которая мешает нам пользоваться субъективной интуицией. Когда вы увидели, что этот компьютер интересен, что бы это ни значило, это было очень важное понимание, я имею в виду, для вашей жизни, но, вероятно, и для общества в целом, чтобы увидеть потенциал, который там был. Часто бывают случаи, когда большинство людей не видит в чем-то потенциала, и лишь немногие люди замечают его раньше остальных, и это очень важно. Люди правда хороши в этом. И то, как мы управляем нашими учреждениями, на самом деле не делает нам чести: мы очень хорошо обладаем субъективной интуицией относительно того, что интересно или неинтересно, и это просто совершенно не связано со всеми этими объективными измерениями. Это похоже на способность человека говорить то, что интересно, имеет основополагающее значение для достижений и открытий. Способность осознать, что я могу сделать, или на самом деле реализовать потенциал, которым что-то обладает, зависит от моей способности субъективно интуитивно понимать, что интересно здесь и сейчас. Так что каким-то образом должны быть пути, по которым люди могут следовать, где они действительно могут найти что-то интересное. Я думаю, это предполагает некоторые социальные изменения из-за того факта, что мы, по крайней мере формально, не санкционируем такого рода пути, за исключением редких исключений. Мы настолько параноидально относимся к субъективности, что просто не хотим ее санкционировать.

Джим: Да, определенно. С тех пор я всегда просто следил за тем, что мне казалось интересным, и использовал это в качестве своего главного навигатора. Где я решил жить, с кем я решил встречаться, в конечном итоге жениться, и работу, которую я делал, вещи, которые я изобрел. Я всегда пользовался «идеей интересности», потому что в конце концов мне наплевать на то, что неинтересно.

Кен: Да. Да. Да. Вот что я хочу сказать, что мы действительно хороши в том, чтобы следить за нашим носом в поисках интересного. У нас нюх на интересное. И это не просто пустое утверждение. Если вы действительно вникнете в это, то это на самом деле означает, что, если вы потратили свою жизнь на изучение какого-то предмета, если вы действительно преуспели в этом, тогда у вас будут интуиции в этом предмете, которые трудно формализовать или выразить в объективных терминах, или, может быть, невозможно, но они все еще очень, очень ценны в этом предмете. Как специалист по информатике, у меня могут быть всевозможные интуитивные представления о компьютерах, но они могут быть не объективно обоснованы, но мы все равно должны относиться к ним серьезно из-за того, что я обучен в этой области и имею большой опыт как в ней, так и в области искусственного интеллекта.

И вот здесь, я думаю, у нас есть огромное слепое пятно в обществе, заключающееся в том, что мы не доверяем экспертам или людям, у которых есть большой опыт в чем-то, чтобы субъективно использовать свой опыт. Мы должны доверять им только в том, чтобы быть объективными, что действительно глупо, если подумать, потому что для того, чтобы быть объективными, не требуется никакого образования. Если мне придется предоставить вам метрику, чтобы показать и доказать вам, что мы движемся в правильном направлении, любой может следовать этой метрике. Вам не нужно иметь семь лет докторской степени или что-то в этом роде, чтобы знать, что показатель растет. Это похоже на простую меру в одном измерении. Таким образом, мы как бы отказываем людям во всей интуиции и такого рода субъективных способностях, которые накапливались годами знакомства с чем-то неосязаемым, предполагая, что все это не имеет значения и должно быть проигнорировано. Мы не можем доверять вам, потому что вы считаете, что что-то интересно каким-либо формальным способом.

Джим: Пока вы это говорили, я думал о том факте, что в когнитивной нейробиологии есть интересная поддержка этого, которая заключается в том, что наше сознание (давайте назовем его системой двух мозгов в топологии обычного человека, где вы рационально думаете о чем-то) имеет удивительно низкую пропускную способность. Я думаю, что видел вычисления порядка 50 бит в секунду. И, честно говоря, мы не занимаемся арифметикой так хорошо, как калькулятор за 1 доллар, и мы не очень хорошо справляемся с задачами. Мы смотрим на списки законов, этих плакатов с человеческими когнитивными недостатками и всем прочим. Дело не только в том, что мы медлим в этом. У нас это не очень хорошо получается. С другой стороны, я думаю, что наше подсознание, как вы выразились в книге, является самым сложным артефактом, о котором мы знаем во Вселенной, конкурирующим с невероятной способностью параллельно, очень странным образом. Совсем не так, как вы знаете, как это делает цифровой компьютер. И такие вещи, как наша интуиция, не обязательно зависят от этой очень низкой пропускной способности в сознательном объективном мозге. Так что это может быть еще одним аргументом в пользу доверия вашей интуиции, по крайней мере, в той же степени, что и вашему предположительно объективному разуму.

Кен: Да. Это хорошая связь. Да, мы должны уделять больше внимания этой более подсознательной, более интуитивной части нашего разума, которая отвечает за так много открытий и достижений, которые мы видим вокруг себя.

Джим: И, конечно, на самом деле это больше связано с повседневной работой, чем мы думаем. Антонио Дамасио провел множество замечательных исследований, посвященных тому факту, что даже самые простые решения, такие как "что мне съесть на завтрак", в удивительной степени зависят от наших эмоций и наших бессознательных процессов. И если у людей повреждены части мозга, которые занимаются подобными вещами, они не могут решить, что съесть на завтрак, независимо от того, насколько они умны. Так что научитесь доверять подсознательной обработке, по крайней мере до некоторой степени, и, возможно, используйте цель в качестве перекрестной проверки. Итак, теперь давайте переключимся и поговорим о чем-то, что, возможно, более поддается превращению в реальное программное обеспечение, а именно о поиске новинок.

Кен: Да, это хорошо отражает новизну и алгоритм всех поисков, над которым я работал с Джоэлом Леманом, который на самом деле также является соавтором книги. Я думаю, что шаг, который мы должны сделать, чтобы перейти от интереса к новизне, - это начать думать об этом с точки зрения того, можем ли мы более алгоритмично формализовать то, что мы говорим? Если мы говорим, что иногда необходимо достигать «голубого неба» (blue sky achievements – слэнг), чтобы иметь возможность следовать путям интереса, вы могли бы сказать, что у интереса есть градация. Ну, тогда есть ли какой-нибудь способ записать это в виде алгоритма? Есть ли рецепт того, как бы вы это сделали? Эх, если бы я действительно мог записать это для вас в качестве руководства. И оказывается, что вроде бы это становится … Мы хотим иметь возможность делать это, потому что мы хотим писать алгоритмы, а я занимаюсь машинным обучением.

В машинном обучении мы хотим иметь возможность писать алгоритмы, которые охватывают все эти аспекты человеческого интеллекта, включая необъективные. И тогда у нас есть мощные алгоритмы обучения, но это становится сложным, когда вы переходите к вопросу о том, что интересно, потому что, оказывается, это очень трудно формализовать. Я имею в виду, что это острая проблема искусственного интеллекта. У каждого, конечно, свой взгляд на то, что интересно, и это то, что так сильно влияет на то, что у нас так много людей, у которых так много разных интересов, преследующих так много разных вещей одновременно. Но если мы хотим написать алгоритм, который будет в некотором роде соответствовать интересующим нас параметрам, нам нужно каким-то образом его формализовать.

И оказывается, что новизна-это своего рода достойный показатель заинтересованности. Это не так хорошо. Так что, если бы я действительно мог написать уравнение, которое в основном выражает все то, что интересно, это было бы лучше, но я не могу, и никто не может. Это чрезвычайно трудно. Мы не знаем, как это сделать. Таким образом, новизна-это своего рода прокси-сервер, который является вторым лучшим вариантом, то есть, если подумать, почти все новое интересно. Извините, почти все, что интересно, является новым, но не все, что ново, интересно. Так что это как бы идет в одном направлении очень позитивным образом. Мы знаем, что если это интересно, то почти наверняка ново. Вещи, которые не являются чем-то новым почти никогда не бывают интересными.

Идея автомобиля была чрезвычайно интересной и привлекательной в 1900 году, но сейчас это не так захватывающе. Ты не станешь говорить, что есть действительно интересная вещь, когда ты на вечеринке. Вы могли бы поставить коробку на четыре колеса и ездить в ней. Я имею в виду, что это больше не интересно, потому что это больше не ново. Таким образом, одна только новинка имеет большой запас с точки зрения интересных вещей. И что хорошо в новизне, так это то, что вы можете довольно легко ее формализовать. Я могу как бы сказать: “Насколько эта вещь, которую я рассматриваю, отличается от того, с чем я уже сталкивался в прошлом?” Поэтому я могу записать как некоторую функцию, которая будет вычислять новизну таким образом. И тогда это может быть использовано в качестве прокси для интереса. Таким образом, я могу отслеживать градиенты новизны в реальности в алгоритме на компьютере, без вмешательства человека.

И это затем позволяет нам увидеть некоторый проблеск, того, как будет выглядеть истинно интересный тип поиска, который мы могли бы назвать алгоритмом поиска новизны. И этот алгоритм намеренно пытается следовать путям новизны без какой-либо явной цели. В некотором смысле, поначалу это интересно просто как алгоритм, как будто вы можете делать некоторые интересные вещи, но в некотором смысле это также воплощение того, о чем мы говорили на философском уровне, на более формальных алгоритмических уровнях. «Не могли бы вы написать что-нибудь, чтобы сделать это немного более конкретным?» Ну, да, мы можем написать алгоритм, он называется поиском новизны, который следует путям новизны, является показателем заинтересованности и при этом не имеет конечной цели. И все же он действительно достигнет того, чего в некоторых случаях невозможно достичь объективно, что помогает затем выделить и подтвердить эту теорию, потому что теперь мы фактически алгоритмически показываем, что этот принцип вступает в игру, а не просто спорит, размахивая руками, что производит поиск новизны. Это действительно решает проблемы, при объективном решении которых мы либо всё портим, либо не получаем ответа.

Подумайте, насколько это противоречит здравому смыслу. Я говорю компьютеру, что я хочу, чтобы он делал. Я хочу научить робота, скажем, ходьбе. Я говорю ему: “Я хочу этого. Пройди как можно дальше”. И на самом деле будет лучше, если я не буду говорить ему этого, а просто скажу: “Делай что-нибудь новое". Тогда он вдруг начинает лучше ходить. Я думаю, это очень важная демонстрация того, что лежит в основе объективного парадокса в более формальном алгоритмическом смысле.

Джим: Скажите мне, на правильном ли я пути. Один из способов поиска новизны-это исчерпание того, что не работает?

Кен: Это правда. Он будет ходить по местам, пробовать разные вещи, а затем вспомнит их. Так что это важная часть алгоритма, это что-то вроде того, что мы называем архивом. Так вот, я сделал подобное. Он оставляет описание того, что он сделал, в архиве. И тогда он вознаградит себя за то, что держится как можно дальше от того, где он уже был, или от тех вещей, которые он уже сделал. И это то, что подталкивает его к новизне. Таким образом, у него есть своего рода неявное стремление уйти от того, что он уже сделал или уже пытался сделать, в сторону чего-то другого.

Джим: Да. Вы привели пример проще, чем ходьба робота, пытающегося перемещаться по коридору. Может быть, вы могли бы немного нарисовать для нас эту картину. Может быть, тогда людям будет немного легче понять.

Кен: Правильно. Я просто использовал больше возможностей из маленькой метафоры мыши в лабиринте, о которой мы говорили раньше. В данном случае мы сказали: «Давайте поместим мышь-робота в удивительно реальную симуляцию, которую мы установим на компьютер». И мы поместим внутри этого робота нейронную сеть, которая будет управлять им. И то, что мы надеемся найти, похоже на правильную конфигурацию этой нейронной сети, которая поможет мыши пройти через лабиринт. В этом-то и проблема. Вы ищете мозг, который в основном поможет вам пройти через лабиринт. Если вы затем попытаетесь просто вознаградить его за то, насколько близко он подходит к цели, что совсем похоже на то, о чем мы говорили некоторое время назад, с точки зрения обмана, то неминуемо столкнетесь с обманчивой проблемой. Вы элементарно можете дойти до того момента, когда робот действительно застрянет или потребуется очень, очень много времени, чтобы найти мозг, который действительно сможет провести его через лабиринт. Но если вместо этого вы вознаградите его за то, что он нашел какой-то новый путь, по которому он никогда раньше не шел. Что ж, тогда очень быстро мозг найдет все пути, ведущие из лабиринта, включая выход. Таким образом, решение лабиринта заканчивается поиском мозга, который ведет робота по лабиринту намного быстрее, чем если бы алгоритм был вознагражден за то, что он действительно приблизился к концу лабиринта, что опять же очень нелогично. Гораздо лучше вознаградить интеллект за новизну, за то, что он сделал что-то новое, а затем вознаградить его за то, что он приблизился к концу лабиринта, если ваша цель-добраться до конца лабиринта. Это просто еще одна демонстрация того, что иногда просто лучше следовать по пути интереса.

Джим: Интересно. Теперь давайте сделаем еще один шаг к чему-то вроде теории или, по крайней мере, абстракции этой идеи. Вы говорите, что информация, ее накопление и возрастающая сложность являются характерными признаками любого вида поиска без явной цели. Таким образом, вы говорите, что возрастающая сложность и накопление информации являются хорошими подсказками для вещей, которые движутся в правильном или «интересном» направлении. Мы не будем использовать правильное направление, потому что мы не будем говорить о целях.

Кен: Верно, верно. Я думаю о том, что … дело скорее в том, что цели как бы идут на поводу, если вы следуете такому принципу. Под такого рода принципом я подразумеваю, например, следование траекториям интереса, а не просто объективным типам траекторий. Вы получите возрастающую сложность и накопление информации, что является очень, очень интересным побочным эффектом и очень важным. Так что стоит на секунду задуматься, что это на самом деле значит. Что такое накопление информации? Это означает, что посмотрите, представьте себе, я поместил робота в комнату с четырьмя стенами. Там нет другого выхода, кроме двери. А потом я говорю ему просто продолжать делать что-то новое. Ну, сначала он просто врежется во все стены, а потом каждый раз, когда это происходит, он становится новым, потому что врезается в другую стену, но в конце концов выходит из комнаты. Ему придется придумать, как открыть дверь.

И для того, чтобы сделать это, он вынужден использовать свои датчики. Он научится распознавать дверь и научится открывать ее. Кажется, будто это вынужденно. Поскольку на него оказывают давление, чтобы он сделал что-то новое, он вынужден накапливать информацию о вселенной. Что такое дверь? Как работают мои датчики? Каковы элементы моего окружения, на которые могут повлиять мои действия? И если вы продолжите в том же духе, как в крайнем случае, как вы продолжаете говорить: “Ты должен что-то сделать. Ты должен сделать что-то новое”. В конце концов ты приземлишься на Марсе. Но дело в том, что если вы приземляетесь на Марсе, то вы учитесь самым разным вещам. Вы узнали о том, какие планеты находятся в солнечной системе. Вы узнали о двигателях, ракетной технике и всех этих других вещах. Так что это побочный эффект просто стремления к более интересным или более новым вещам.

И это отчасти объясняет, почему, подобно нашему стремлению к новизне в социальном плане, это также подталкивает нас к постоянному расширению знаний. С каждым разом данным процесс усложняется, потому что для того, чтобы интегрировать растущие знания, нам нужны все более сложные системы. Так что вы получите много интересного. Вместо того чтобы просто сказать: “Приближаюсь ли я к цели?” То, что вы получаете, - это растущее понимание Вселенной и того, как она работает, просто как побочный эффект отказа от достижения целей.

Джим: Но ведь в реальном мире, думая о том, что касается бизнеса, чувак, тебе также нужно взглянуть на то, что ты ограничен в ресурсах. Поэтому вам нужно подумать, когда поиск новинок, скорее всего, будет достаточно хорошим. Я имею в виду, позвольте мне воспользоваться Теоремой об отсутствии бесплатного обеда. Мы знаем, что это по определению не панацея. Так не могли бы вы дать нам какое-нибудь руководство? Когда имеет смысл использовать поиск новинок по сравнению с другими видами поиска с использованием грубой силы?

Кен: Да. Да, это хороший вопрос. Учитывая все, что мы обсуждали, это звучит как большой праздник поиска новизны и вроде как решение всего, но это, конечно, не так. И предостережение, которое действительно важно иметь в виду, заключается в том, что на самом деле речь идет о риске. Я имею в виду, что для того, чтобы получать большие награды, вы должны сильно рисковать. Так что, если вы находитесь в ситуации, когда вы не можете позволить себе рисковать, то да, просто делать что-то, потому что это интересно, может оказаться плохой идеей. Таким образом, поиск новизны действительно возможен только тогда, когда у вас есть ресурсы и подушка безопасности и когда вы готовы рискнуть.

Однако если вы откажетесь рисковать и будете следовать только целям, то у вас будет гораздо меньше шансов найти что-нибудь интересное. Так вот почему это все еще хорошая идея, в той мере, в какой мы можем себе это позволить – искать то, что интересно. Но если вы собираетесь начать поиск новизны, вы должны осознавать, что намеренно идете на риск. Если вы возьметесь за работу с более низкой оплатой, потому что думаете, что, возможно, это приведет к чему-то более интересному, очевидно, что вам придется смириться с сокращением зарплаты и с тем, что эта идея может вовсе не окупиться. В поиске новинок нет никакой гарантии, что затея окупится.

Итак, да, подход к поиску новизны в основном говорит о том, что если у вас есть желание исследовать, это может дать чрезвычайно высокую отдачу, но вы должны понимать, что это никоим образом не гарантировано, и, тем не менее, это может быть единственным способом, которым вы сможете добраться до определенных видов открытий. Так что, если вы готовы пойти на риск, вы действительно можете получить очень высокую прибыль, если вам повезет.

Джим: Да. И я думаю, что еще одна вещь, и я собирался подумать об этом эвристически, заключается в том, что когда эксперименты дешевы, то их можно проводить параллельно. Это указывает на использование поиска новинок, и такие вещи, как компьютерное исследование алгоритмики, являются хорошим примером, или, в целом, исследование относительно недорогое и может выполняться параллельно.

Кен: Да, есть еще одно предостережение, на которое важно обратить внимание и которое заключается в том, что большая разница между успешным поиском, ориентированным на новизну, и успешным поиском, ориентированным на цель, заключается в том, что мы не знаем, где мы окажемся в поиске новизны, очевидно, потому что нет цели. Это нужно иметь в виду. То, что мы предлагаем здесь, не означает, что вы решите проблему X. Представьте, у вас проблема и вы просто говорите: “О, хорошо, я просто сделаю все, что будет интересно”. Нет никаких оснований полагать, что это приведет к решению этой единственной проблемы X.

Мы хотим сказать, что у вас есть возможность решить неопределенную проблему, в решении которой мы пока не совсем уверены. Быть может, вы находите свое дело таким интересным, но вам неясно, чего именно вы собираетесь достичь. И в том-то и дело, что конечное достижение не определено. Поэтому вы должны уметь жить с этой двусмысленностью, если идете по пути интереса или новшеств. Я не говорю: “Хорошо, теперь я хочу выяснить, как поступить в аспирантуру. Так что я просто буду бродить вокруг, делать интересные вещи и надеяться, что это произойдет”. Ну, может случиться что-то еще действительно классное, но это не значит, что ты поступишь в аспирантуру.

Джим: Да. Если мы собираемся пойти по этому пути, вы должны понять, что вы должны отказаться от какой-то одной цели и сделать ставку на то, что интересное каким-то образом окупится. У нас есть пара тематических исследований. Одно из них на тему образования. Другое – науки или, как вы это называете, инновации. А третье - самого ИИ (искусственного интеллекта). У нас, вероятно, есть время провести два из них. Какие из них, по вашему мнению, были бы самыми интересными?

Кен: Давай посмотрим. Я думаю, мы можем попробовать образование и искусственный интеллект.

Джим: Хорошо, давайте сделаем это. Лично я очень интересуюсь социологией науки, но мы отложим это на другой день. Таким образом, у вас есть целая глава в вашей книге о том, как наши образовательные системы на всех уровнях связаны с целями. Почему бы вам не поделиться с нами своими мыслями о том, как ваш образ мышления может позволить нам, как вы говорите, снять оковы с образования?

Кен: Эта серия откровений, которые мы изложили в книге … Я имею в виду, что для меня это откровения. Это были не те вещи, которые я ожидал обнаружить, начиная Picbreeder. В конце концов я начал видеть связь между ними и системой образования, что, возможно, было для меня неожиданностью. Я не пытался сказать что-то особенно инновационное об образовании, но я начал понимать, что это во многом связано с ним, потому что образование очень объективно обусловлено. Когда мы говорим о том, что школы терпят неудачу или теряют конкурентное преимущество перед другими странами или что-то в этом роде, мы говорим в основном о результатах тестов, и что результаты тестов не растут. Они движутся не в том направлении.

И это действительно интересно, потому что это очень строгое описание поиска, основанного на объективности. Если мы говорим о том, что путь, по которому мы хотим идти, - это путь увеличения результатов тестов до такой степени, когда, я думаю, каждый ребенок в стране получает 100 баллов за каждый стандартизированный тест или что-то в этом роде. Ну, это похоже на совершенно объективное преследование. И эти принципы, которые мы обсуждаем, предполагают, что такого рода целенаправленные действия обречены на провал из-за обмана. Другими словами, если я найду путь, который приведет к увеличению результатов тестов, то почти наверняка я столкнусь с кирпичной стеной, и в какой-то момент они перестанут расти.

Я обратил внимание на то, что этот принцип применим в сложных пространствах. В простых пространствах, вы можете следовать цели. Без проблем. Это сработает. Но образование невероятно сложное. Вот почему это, опять же трудная проблема. Таким образом, похоже, что на самом деле мы просто наивно поддаемся объективному парадоксу как общество в целом по всей системе образования, которое в основном определяется тестами как объективной метрикой, указывающей нам, где искать дальше. Здесь есть очень политическая проблема, например, с тестами и тому подобными вещами. И я просто хочу подчеркнуть, что я подхожу к этому не с политической точки зрения, потому что я селекционер (поиск новинок и все такое), я просто вижу здесь, что наивное следование такой метрике ведет к тому, что вы просто идете к локальному оптимуму и застреваете. И мы знаем, что ни одна из этих вещей никогда не работает. Вот почему это похоже на вечную проблему. Каждые несколько лет появляется какая-то новая национальная инициатива с каким-то новым стандартом тестирования, и это похоже на то, что на этот раз мы становимся действительно серьезными. Но я бы всегда предсказывал, что это не сработает, потому что, опять же, это просто возвращение к объективному парадоксу. Вы преследуете цели, но они помешают вам достичь того, чего вы хотите.

Итак, нам нужен необъективный способ, потому что это проблема типа голубого неба. То, что действительно нравится, выводит всех детей в стране на какой-то удивительный уровень достижений, - это и есть голубое небо, ступеньки к которому неизвестны. И поэтому, чтобы иметь возможность перемещаться в таком пространстве, вам нужно больше новизны, такой как поиск, что мы и видели. И поэтому он предлагает совсем другие подходы, чем эти объективные способы, основанные на метриках; он подразумевает конкретные решения, а не просто «мне не нравится, как все работает, так что давайте просто подумаем о чем-то другом». Но я думаю, что есть альтернатива, которая заключается в том, что то, что мы действительно должны делать, - это целенаправленно поощрять разнообразие системным образом, что означает, что у каждого учителя есть должна быть развита собственная интуиция.

Опять же, мы возвращаемся к субъективности и интуиции, которые всех пугают. Учителя годами учат тому, что лучше всего подойдет их детям или их классу, и все это, в совокупности, все эти интуиции и все эти различные идеи являются чрезвычайно ценным ресурсом. И что мы должны сделать, так это попытаться использовать это разнообразие и вознаградить его в том смысле, что ступеньки станут доступными для всех остальных. Поэтому у нас должна быть система, при которой, если вы разрабатываете подход, и он помогает вам на местном уровне с вашими детьми, то его следует широко распространить, и другие люди должны иметь возможность опираться на данный подход и попробовать это со своей местной группой. И тогда все эти различные типы идей увековечатся, многие из них будут новыми, во всей системе.

Точно так же, все изображения, которые кто-либо когда-либо находил, находятся на сайте и могут быть построены и разветвлены любым другим, кто посещает сайт. И тогда у нас будет такой селектор, как поиск в образовательном пространстве, и мы, несомненно, обнаружим множество инновационных идей, которые в противном случае мы никогда не увидим, потому что все застряли на этой объективной метрике.

Джим: Да, горизонтальные коммуникации ведут к тому, чтобы люди могли выбирать, что работает. Конечно, это очень важная часть подобных параллельных экспериментов в области социальных наук, но это сложно. Представьте, что у каждого отдельного учителя есть свой собственный подход. И в стране 200 000 учителей, миллион, я не знаю, они не могут следовать друг за другом. У вас был очень интересный небольшой алгоритм для сетевого распространения лучших практик, чтобы каждому человеку не приходилось следовать миллиону разных учителей. Почему бы тебе не рассказать нам об этом? Я подумал, что это было довольно умно.

Кен: Да, это важно, потому что есть версия "соломенного человека" о том, что у нас есть гигантская база данных из 10 миллионов различных идей, и вы просто заходите туда и просто надеетесь найти что-то полезное. Это банально не сработает. И это не совсем справедливо по отношению к тому, что я предлагаю. Потому что от этого слишком легко отмахнуться. Я имею в виду, что на самом деле вам нужно что-то вроде системы экспертной оценки, где количество взаимодействий поддается контролю. Их не миллионы, но каждый человек в основном трогает, как минимум, дюжину других людей со своими идеями. Таким образом, мы можем сказать, что каждый учитель, вместо того чтобы проходить стандартизированное тестирование, проходит своего рода экспертную оценку на регулярной основе, может быть, ежегодно или что-то в этом роде, где они объединяют свое портфолио и свою стратегию. А затем его проверяют коллеги, и могут быть какие-то минимальные критерии, например, чтобы избежать полного провала.

Все еще есть некоторая степень объективности. Если это абсолютный провал, то ясно, что нам нужно что-то сделать, чтобы изменить то, как идут дела в этом классе. Но, кроме того, у людей также есть небольшой набор других коллег, которых они проверяют, чтобы посмотреть, как учителя подходят к своему делу, насколько хорошо они работают. А затем поднять те вещи, которые выглядят действительно многообещающими, интересными или инновационными, которых они раньше не видели. И таким образом обратная связь идет в обоих направлениях. Рецензенты получают возможность увидеть новые идеи и оценить их. И тогда, возможно, как и в самом лучшем случае, вещи с самым высоким рейтингом будут опубликованы в более централизованных местах, где их смогут увидеть все. Также и люди, которые проходят рецензирование, получают информацию об опыте и идеях рецензентов. У нас есть сеть, и через эту сеть распространяется множество идей, но при этом всем не нужно знать обо всех.

Джим: Да. Я подумал, что это был чрезвычайно умный способ справиться с проблемой горизонтальной связи и найти то, что работает, без нереалистичных связей, которые просто не сработали бы. Так что, может быть, подумайте об этом с практической точки зрения, с точки зрения реализации: создания радикальной систему ваучеров, где любой может быть учителем, по крайней мере, в течение одного года, и пройти эту горизонтальную экспертную оценку. Подавляющее большинство ваших коллег-рецензентов могут отозвать вашу лицензию на преподавание, если вы окажетесь полным неудачником. Это может быть интересным способом максимизировать разнообразие, при этом сохраняя горизонтальную коммуникацию и все еще имея возможность отсеять очевидно некомпетентных.

Кен: Да. Я не знаю, нужно ли вообще говорить, что каждый может быть учителем. У нас все еще может быть некоторая кредитоспособность. Я имею в виду, реальным препятствием для осуществления такого рода изменений, которые некоторые люди могут воспринять как радикальные изменения в системе, в основном являются то, что все действительно беспокоятся о защитных ограждениях, в то время как то, что мы фактически хотим получить здесь - это инновации. Как только вы начинаете создавать инновационную систему, это похоже на: “Ну, подождите, подождите, где гарантии того, что все это работает? Откуда мне знать, что все не рухнет и не превратится в полный мусор”. Я думаю, что мы можем немного зациклиться на этом, и это мешает нам делать что-то инновационное, но все это похоже на компромисс с вознаграждением за риск.

Я бы не возражал, если бы сказали: “Хорошо, ну да, у тебя все равно должны быть полномочия учителя, опыт работы в качестве учителя. Но в рамках этого у нас будет эта система, которая по-прежнему будет похожа на экспертную оценку и систему сдержек и противовесов”. Так что все еще есть некоторые противовесы, но это позволит проникнуть новым идеям и даст больше свободы. Мы все почему-то боимся свободы. Мы хотим быть связанными целями, но я говорю вам, что если вы дадите людям больше свободы, у них появятся лучшие идеи, и они будут распространяться повсюду. Поэтому мы должны немного рискнуть, чтобы получить большую награду.

Джим: Да. Я думаю, что это очень интересный общий шаблон для размышлений о социальных инновациях. Я думаю, что это стоит внимания тех людей, которые работают в области социальных инноваций, в том числе многих слушателей этого подкаста. Я бы сказал, что треть нашей аудитории-это люди, которые заинтересованы в социальных инновациях. Это непростая концепция, чтобы разобраться в ней. Это заняло у меня некоторое время. Честно говоря, сначала, когда я начал читать книгу, я думал: «что это, черт возьми, такое?» По правде говоря, я ожидал увидеть книгу о нейроэволюции. Но потом, когда я вник, то понял, что это чертовски интересно. И по мере того, как я все глубже и глубже погружался, сильно изменилось мое мнение о такого рода проблемах социальных изменений. И особенно в том, что касается образования, это действительно хороший пример. Это относительно легко понять и не отличается от тех проблем, которые нам нужно решить в нашем обществе.

Кен: Да. И я имею в виду, что если какой-либо слушатель заинтересован в социальных инновациях или образовании, не стесняйтесь связаться с ним. Я хотел бы оказать большее влияние в этой области с помощью этой книги. Книга затронула множество разных областей, но я думаю, что одной из областей, где я менее доволен тем влиянием, которое она оказала, было образование. И я хотел бы, чтобы эта дискуссия была более возвышенной.

Джим: К сожалению, я имел … Искушение заняться чем-нибудь в сфере образования. Это действительно тяжело. Это самый отсталый отдел в каждом университете, за одним или двумя исключениями, такими как Гарвард и Колумбия. Система образования отстала на 50 лет с ее пониманием когнитивной науки, ужасной бюрократией и жесткими профсоюзами. Существует целая куча структурных проблем, связанных с тем, почему образование действительно трудно изменить, что, откровенно говоря, является аргументом в пользу того, что вы делаете. Радикальный переход к совершенно другой парадигме.

Кен: Да-да. Правда. И я это делаю. Я понимаю, почему это так трудно. Образование - это невероятно сложная область для любых инновационных разработок … Особенно для постороннего человека, который, честно говоря, не понимает систему и то, как работает бюрократия. Так что я просто не знаю, что делать, но я думаю, что пришло время для перемен.

Джим: Да, я думаю, что очень многие люди согласны с этим. Давайте перейдем к нашей последней теме здесь, в которой есть определенная доля иронии. Как вы указываете, эксперты по ИИ, такие же, как вы, или что-то в этом роде, являются экспертами «в поиске». И все же вы изложили идею своего рода метаэвристики. Что мы должны искать в области искусственного интеллекта? Почему бы тебе не повести нас по этой дороге? Мне как человеку, который немного тусуется около сообщества AI и AGI, это показалось очень интересным. И почему бы вам не рассказать эту историю нашим слушателям.

Кен: Конечно. И, надеюсь, возможно, это также немного заинтересует ученых в целом, потому что это очень ориентированная на эталоны область, и все знают об этом в сфере AI. Если вы хотите попасть на одну из лучших конференций или журналов, но в наши дни все просто заботятся о конференциях в области искусственного интеллекта, тогда вам нужно будет улучшить некоторые показатели. Есть случаи, когда вам придется показать, что вы справляетесь лучше, чем по последнему слову техники. Это, очевидно, приводит к большому инкрементализму. И пока вы показали данные способности, у вас, по крайней мере, есть шанс, но если нет, у вас почти нет шансов. Это как, ну, провести еще несколько экспериментов и вернуться, когда будешь готов.

И если вы подумаете о том, что это такое, я имею в виду, что это другой случай, просто еще один пример совершенно объективного процесса поиска, которым является само поле. Вот почему я использую слово "мета". Мы говорим о том, как область как эвристика ищет лучшие идеи. И в основном он использует объективную метрику, которая представляет собой производительность по некоторым показателям, чтобы решить, стоит ли делиться прогрессом с сообществом в целом, пройдет ли он через фильтр публикаций. И это своего рода ирония, потому что если и есть место, где такого рода эвристика не должна доминировать, то в области, где люди являются экспертами в поиске. Это в основном касается AI, поисковых алгоритмов и методов поиска. Эти люди, которые очень искушены и понимают, например, почему вы не хотели бы оказаться в ловушке локальных оптимумов и как важно избегать этих вещей. И все же мы действуем как самый наивный алгоритм локальной оптимизации, который в принципе похож на смерть и стремится к тому, чтобы очень скоро оказаться в ловушке локальных оптимумов, потому что все, что нас волнует, - это просто постепенное повышение какой-то метрики. И в частности, я имею в виду, что, дело не столько в том, что мы заботимся только о повышении показателя, сколько в том, что мы действительно не заботимся о людях, если они не повышают показатель.

Тогда, типа, да, тебе, вероятно, скажут просто вернуться, когда ты станешь лучше. Так что, если у вас просто есть что-то действительно интересное, но это не лучше ни в каком объективном смысле, вы были. Никто не услышит об этой ступеньке, которую ты предлагаешь. И, как мы спорили на протяжении всего этого разговора, это ядовито для инноваций. Мы не можем делиться интересными вещами. Возможно, какой-нибудь стереотипный защитник сообщества ответит примерно так: “Ну, откуда мы знаем, что они хороши, если это просто субъективно? Это становится рискованным. Вот почему нам нужны эти ориентиры и эти показатели”. И мы снова возвращаемся в круг, потому что, конечно, вы всегда можете это оспорить, но я утверждаю, что в конечном итоге мы должны быть в состоянии признать, что некоторые вещи интересны сами по себе. Это на самом деле ортогонально и не зависит от объективной метрики, и все же это очень важный ориентир для того, где мы могли бы захотеть исследовать. Рецензенты на самом деле могли бы заниматься тем, что интересно. Теоретически это не невозможно. Просто мы боимся это делать. Это означает, что мы в основном будем действовать как наивный алгоритм поиска и постоянно попадать в ловушку локальных оптимумов, если не выбьемся из этой колеи.

Джим: Это довольно интересно и забавно для меня, потому что я не профессионал. Я не собираюсь публиковать свои работы в модных журналах. Я склонен пропускать статьи, которые на 1% улучшают качество изображения в сети. Кого это волнует? По правде говоря, я ищу интересные вещи. Например, нейронные архитектуры, которые используют более дальние и сильные версии повторения. Все находятся в этих маленьких мини-рецидивах, если они вообще используют рецидивы. В наши дни большая часть материала-это прямая трансляция. И, похоже, нам банально не хватает исследований, даже в узкой области нейронных вычислений.

Итак, контрольные показатели, очевидно, являются проблемой. Очень иронично, что люди, которые знали, что это приведет вас к ряду глобальных максимумов тем не менее именно так организовали свою профессию в наши дни. Но другой путь, я думаю, в некотором смысле был бы еще более интересным, хотя, возможно, и не таким распространенным. И это теоретическая мера. Может быть, вы сможете немного рассказать нам об этом.

Кен: Да-да. В книге мы говорили об этих двух видах мер, которые используются. И я сосредоточился здесь до сих пор на эталонном. И я думаю, что в последнее время именно эта мера стала своего рода доминантой в этой области из-за глубокого обучения. Но в то же время, по крайней мере исторически, существовал и другой вид эвристики, который позиционировал теоретические результаты как доказательство. Вы можете доказать, что что-то лучше, чем что-то другое, или что это что-то гарантирует. Тогда это еще один признак того, что это путь, по которому мы должны идти. Но для меня это просто еще один пример объективной ошибки, которая заключается в том, что только потому, что у вас есть какие-то объективные доказательства прогресса, это не обязательно означает, что вы не упираетесь в кирпичную стену. Это просто еще один способ попытаться быть очень объективным. В данном случае для улучшения. Ну, разве можно быть более объективным, чем совершенствоваться?

Я имею в виду, что довольно трудно признать или даже увидеть, что, хотя вы на самом деле чрезвычайно объективны, то, что вы говорите, что это все равно, в конечном счете, с мета-точки зрения, не обязательно является хорошей эвристикой для понимания того, движемся ли мы в правильном направлении, потому что это не значит, что это интересно. И иногда вам приходится спускаться, прежде чем подниматься.

В этом, в основном, и заключается смысл обмана. Иногда мыши в лабиринте приходится отступать и идти по другому маршруту, а на самом деле удаляться все дальше от цели, прежде чем она сможет добраться до цели. Таким образом, все эти объективные принципы, в которых мы просто следуем увеличению гарантий или увеличению баллов, игнорируют тот факт, что иногда вам приходится отступать, чтобы двигаться вперед. Итак, какова эвристика для определения того, когда это хорошая резервная копия? Я имею в виду, что иногда вы должны быть в состоянии признать, что это просто супер интересно и открывает целый новый мир возможностей. И это часто может быть лучшим вкладом.

Джим: И на самом деле, вы предлагаете потенциальное частичное решение, и это ваша идея для журнала.

Кен: Правильно. Это должен был быть мысленный эксперимент. На самом деле было бы интересно завести этот журнал, который, я думаю, мы бы назвали "Журнал открытий искусственного интеллекта". Во-первых, надеюсь, что это будет престижный журнал. Поэтому мы собираемся привлечь лучших ученых в мире для проведения обзоров. Но он будет отличаться от любого другого журнала в том смысле, что рецензентам не разрешается говорить о результатах. Таким образом, рецензенты могут говорить только об идее. Поначалу это звучит как-то безумно: рецензенты не могут говорить о результатах, но результаты - это то, что мы всегда используем, чтобы знать, следует ли нам что-то публиковать. Но что этот журнал делает, так это, по сути, приводит к короткому замыканию в этой патологической цепи, к которой мы привыкли, он предотвращает появление такого рода объективных ошибок, потому что рецензентам больше не разрешается использовать свое защитное одеяло. Потому что, в конце концов, я думаю, что такого рода объективные измерения являются защитой для рецензентов, потому что это позволяет им не думать. Если бы я мог просто сказать: “О, ну что ж, этот результат лучше, чем тот. Хорошо”. Или: “Это, ты не сравнивал X с Z. Вы только что сравнили это с Y. Почему бы тебе не сравнить X с Z, а затем не вернуться". Мне не нужно думать. Мне не нужно ничего понимать в твоей идее. Мне вообще не нужно этим заниматься. Мне не нужно говорить, почему это интересно или неинтересно или как это связано с чем-либо. Я могу просто игнорировать все это. И просто буду абсолютно объективным, говорить так, как будто я знаю, о чем говорю, а затем переходить к остальной части моей жизни.

Но если у вас был такой журнал, как этот, где вы не можете этого сделать, потому что не можете говорить о результатах, то вы находитесь в очень неудобном положении, когда вам действительно нужно заниматься идеей и интересно ли это. И я думаю, что лучшие ученые, безусловно, могут это сделать. Мы просто не хотим этого делать. Это сложнее. Это займет больше времени. Это еще более неловко. И кроме того, вы чувствуете, что это не объективно, поэтому вы беспокоитесь об этом, но мы могли бы это сделать. И если бы мы это сделали, возможно, я думаю, что в этом журнале было бы опубликовано гораздо больше интересных вещей, чем где-либо еще, потому что это было бы полностью связано с тем, что интересно, а не с какой-то наивной локальной оптимизацией эталона.

Джим: Я подумал, что это такая умная идея, и у меня есть опыт работы в издательском деле, и у вас тоже. И я на самом деле обобщил вашу идею и сказал: “Ах, я думаю, что эта проблема широко распространена в науке. Кто-то должен основать компанию ”Интересные журналы", взять вашу идею и применить ее к каждому домену". Если бы не тот факт, что высокооплачиваемые научные журналы находятся в своего рода закатном периоде, можно было бы надеяться. Кто знает? Я действительно мог бы нанять кого-нибудь, чтобы заняться этим, но мне кажется, что это закатная индустрия. Так что, вероятно, в настоящее время это не лучшая возможность для бизнеса.

Кен: В любом случае, мне бы это понравилось. Или тогда организуйте конференцию. Я не знаю. Но да, если бы кто-нибудь сделал это, это было бы действительно весело.

Джим: Может быть, нам стоит поговорить об этом. Я был бы рад помочь сдвинуть это с мертвой точки. Я знаю многих ведущих ученых во всех интересных областях. Вы могли бы даже получить лучший результат, верно?

Кен: Да. Верно. Это, вероятно, привлекло бы много читателей.

Джим: Своего рода эквивалент того, чем раньше были наука и природа. Верно?

Кен: Да-да. Правда.

Джим: В любом случае, я подумал, что это была очень, очень интересная, провокационная и неожиданная идея. И, конечно, ты заставил меня задуматься. Что ж, Кен, это был феноменально интересный разговор, и я должен сказать, что эта книга оказалась более интересной, чем я изначально думал. «Интересной». Опять это слово. Я действительно могу рекомендовать книгу людям совершенно искренне. Людям, которые думают о науке, думают о социальных изменениях, думают об AI, стоит это прочитать. Так почему бы вам не рассказать нам название еще раз?

Кен: Хорошо. «Вот почему Величие Не может быть Спланировано» с подзаголовком "Миф о цели от Спрингера".

Джим: Кен Стэнли, а вашим автором был Леман, верно? Как его зовут по имени?

Кен: Да. Джоэл Леман.

Джим: Джоэл Леман. Отлично. Что ж, еще раз спасибо, Кен. Это было очень весело.

Кен: Это было здорово. Спасибо. Я отлично провел время на шоу. Спасибо, что пригласили меня.

Джим: Да, с нетерпением жду твоего возвращения в следующем месяце, и мы сможем поговорить об эволюции нейронов.

Кен: С нетерпением жду этого. Определенно.
_________________________________________________________________________

Интересно, кто-нибудь прочитал всё?
В аудиоформате было бы проще для восприятия?