Интервью Демиса Хассабиса Лексу Фридману. Краткое содержание

Демис Хассабис – сооснователь и генеральный директор компании DeepMind, разработавшей алгоритм AlphaFold, нацеленный на прогнозирование структур белков, за что в 2024 получил четверть нобелевской премии по химии.

Несколько дней назад вышло новое двухчасовое интервью. У Хассабиса есть общая картина будущего и хватает мыслей, которые ещё не стали мейнстримом, но будут им через несколько месяцев или даже лет. Слушать два с лишним часа это долго, проще потратить пять минут на выжимку, а при необходимость послушать или почитать о каком-то аспекте более подробно. Кроме того я добавил пару ссылок и уточнений по темам.

Интервью - https://www.youtube.com/watch?v=-HzgcbRXUK8

Текст - https://lexfridman.com/demis-hassabis-2-transcript

Хассабис выдвигает фундаментальную гипотезу: любая закономерность, которая может быть сгенерирована или обнаружена в природе, может быть эффективно обнаружена и смоделирована с помощью классического алгоритма обучения. Он объясняет это на примерах AlphaGo и AlphaFold, которые строят модели высокоразмерных пространств, которые невозможно было бы решить с помощью вычислений методом перебора.

Его ключевая идея заключается в том, что природные системы имеют структуру, потому что они прошли эволюционные процессы — то, что он называет «выживанием наиболее устойчивых». Это относится не только к биологической эволюции, но и к геологическим образованиям, сформированным под воздействием атмосферных явлений, и даже к космическим структурам, таким как орбиты планет. Поскольку эти системы эволюционировали и выжили с течением времени, они содержат обучаемые паттерны, которые нейронные сети могут эффективно обнаруживать.

Хассабис рассматривает вселенную как фундаментально информационную систему, в которой информация является более фундаментальной, чем энергия или материя. Такая точка зрения делает вопрос P против NP в информатике по сути вопросом физики о природе самой реальности.

AlphaEvolve представляет собой гибридный подход, сочетающий большие языковые модели (LLM) с методами эволюционного вычисления. LLM предлагают возможные решения, а эволюционные методы ищут новые области в пространстве решений. Это демонстрирует перспективность сочетания базовых моделей с другими вычислительными методами, такими как поиск по дереву Монте-Карло.

Хассабис считает, что эволюционные вычисления могут потенциально способствовать появлению действительно новых возможностей, подобно тому, как биологическая эволюция создала сложные формы жизни из простых организмов. Проблема заключается в том, что традиционные методы эволюционных вычислений с трудом развивают действительно новые свойства, но их сочетание с современным искусственным интеллектом может преодолеть это ограничение.

Способность Veo 3 генерировать реалистичную физику, освещение и поведение материалов свидетельствует о том, что эти системы искусственного интеллекта развивают интуитивное понимание того, как устроен мир. Хассабис считает особенно удивительным, что системы могут изучать интуитивную физику через пассивное наблюдение за видео, без необходимости воплощенного опыта или взаимодействия с физическим миром.

Это ставит под сомнение прежние предположения нейробиологии о «действии в восприятии» — идее о том, что для истинного восприятия мира необходимо действовать в нем. Успех моделей генерации видео в воспроизведении физики свидетельствует о том, что они извлекают некую основополагающую структуру реальности, что потенциально подтверждает его гипотезу об обучаемых паттернах в природе.

Хассабис предвидит, что ИИ позволит создавать игры с по-настоящему открытым миром, в которых контент будет динамически генерироваться на основе выбора игрока, создавая уникальный опыт для каждого игрока. Он противопоставляет это современным играм, которые предлагают лишь иллюзию выбора через заранее определенные пути.

Он рассматривает игры как ценные симуляторы, которые позволяют людям практиковаться в принятии решений в безопасной среде и конструктивно направлять свою энергию на соревнования. В будущем, когда ИИ будет выполнять более рутинные задачи, видеоигры и виртуальные опыты могут стать основными источниками смысла и удовлетворения для людей.

Хассабис надеется в конечном итоге вернуться к разработке игр, возможно, используя инструменты кодирования ИИ для создания игр в свободное время или в качестве проекта после AGI наряду с работой над физическими теориями.

Хассабис оценивает вероятность достижения AGI к 2030 году в 50%. Он определяет AGI как соответствие всем когнитивным функциям человеческого мозга во всех областях, а не как нынешний «неровный интеллект», при котором ИИ преуспевает в некоторых областях, но терпит неудачу в других.

Ключевые тесты на то, что это действительно AGI включают:

Он подчеркивает, что системы AGI должны быть последовательными во всех областях и обладать способностью совершать настоящие творческие прорывы, а не просто постепенные улучшения.

Хассабис преследовал 25-летнюю мечту о создании «виртуальной клетки» — полной симуляции клетки (начиная с дрожжей), в которой можно проводить эксперименты in silico, чтобы значительно ускорить биологические исследования. AlphaFold предоставил статические 3D-структуры белков, а AlphaFold 3 движется в направлении моделирования динамических взаимодействий между белками, РНК и ДНК.

Процесс будет проходить следующим образом:

В конечном итоге это может помочь понять происхождение самой жизни, хотя Хассабис признает сложность моделирования систем, работающих в разных временных масштабах.

За последний год Google прошел путь от «проигрыша» к «победе» в сфере LLM благодаря тому, что Хассабис называет «неустанным прогрессом» и «неустанной доставкой». Он объединил таланты Google Brain и DeepMind, сохранив менталитет стартапа в рамках более крупной компании и сократив бюрократию.

Ключевые идеи лидерства:

Хассабис предсказывает, что ИИ окажет в 10 раз большее влияние, чем промышленная революция, но в 10 раз быстрее — 100-кратный комбинированный эффект произойдет за 10 лет, а не за 100. В рамках этих изменений потребуется:

Лучшие из программистов станут «сверхчеловечески продуктивными» благодаря использованию инструментов ИИ. Они по-прежнему будут ценны для принятия архитектурных решений и управления ИИ-помощниками.

Несмотря на жесткую конкуренцию, Хассабис поддерживает хорошие отношения с другими руководителями лабораторий ИИ, рассматривая разработку AGI как общую ответственность перед человечеством, а не как игру с нулевой суммой. Он подчеркивает, что талантливые исследователи больше мотивированы возможностью быть на передовой исследований в области AGI и влиять на ее безопасное развитие, чем одними только деньгами.

Хассабис выступает за более тесное научное сотрудничество между лабораториями, отмечая, что Google DeepMind уникальна в своем стремлении использовать ИИ для фундаментальной науки. Он рассматривает научные исследования как совместный «побочный проект» человечества, который может укрепить доверие и сотрудничество даже в условиях конкуренции.

На протяжении всего интервью Хассабис возвращается к фундаментальным вопросам о сознании, жизни и природе реальности. Он выражает удивление тем, что, несмотря на нашу способность исследовать жизнь на почти атомном уровне, мы все еще не имеем четких определений того, что составляет «живое», а что «неживое». Это стимулирует его страсть к созданию AGI как окончательного инструмента, который поможет ответить на эти глубокие вопросы о существовании, рассматривая игры, науку и ИИ как разные подходы к пониманию одной и той же основной реальности.

Хассабис выражает глубокое восхищение Джоном фон Нейманом, универсальным ученым, внесшим вклад в развитие квантовой механики, Манхэттенского проекта и современных вычислений. Он считает, что фон Нейман был бы очарован современными разработками в области искусственного интеллекта, в частности AlphaGo, поскольку они представляют собой воплощение того, что фон Нейман предвидел в 1950-х годах о «обучающихся машинах», которые развиваются, а не программируются.

Хассабис отмечает, что фон Нейман предсказал, что компьютеры будут иметь еще большее влияние, чем ядерные технологии — по крайней мере, в 10 раз больше, чем промышленная революция. Это предсказание, похоже, сбывается благодаря потенциалу ИИ в решении проблем болезней, нехватки энергии и преобразовании цивилизации.

Хассабис подчеркивает, что одного чистого разума недостаточно для того, чтобы направлять человечество в процессе развития мощных технологий. Он выступает за включение того, что он называет «духовным измерением» или «гуманистическим измерением» — не обязательно религиозным, но признающим человеческую душу и сознание. Он рассматривает технологии как средство, способствующее процветанию человечества и пониманию мира.

Проводя параллели с мыслителями эпохи Возрождения, такими как Да Винчи, и цитируя философа Спинозу, Хассабис утверждает, что не должно быть разделения между наукой, искусством и духовными аспектами человеческого бытия. Он критикует исследователей, которые слишком узко фокусируются на технологиях, не учитывая более широкие последствия для человечества.

Что касается потенциального военного применения ИИ, Хассабис надеется избежать гонки вооружений в стиле Манхэттенского проекта, предпочитая модель совместных исследований по типу CERN, в рамках которой лучшие умы мира работают вместе ответственно. Несмотря на текущую геополитическую напряженность, он считает, что научное сотрудничество может служить мостом между странами.

Он выступает за расширение культурного обмена между такими странами, как США и Китай, полагая, что человеческие связи через образование и иммиграцию могут предотвратить раскол и воинственное мышление. Наука, по его мнению, всегда была совместным предприятием, способным способствовать сотрудничеству.

Когда его спрашивают о P(doom) (вероятности исчезновения человечества), Хассабис отказывается называть конкретные цифры, называя такую точность «нелепой» с учетом всей неопределенности. Однако он признает, что риск «не равен нулю» и «вероятно, не является незначительным», что, по его мнению, заставляет задуматься.

Он выступает за «осторожный оптимизм» как единственный рациональный подход, учитывая как огромные потенциальные выгоды (решение проблем болезней, борьба с изменением климата, возможность освоения космоса), так и серьезные риски. Он призывает к десятикратному увеличению исследований в области безопасности ИИ по мере приближения к искусственному общему интеллекту (AGI).

Хассабис выделяет две основные категории рисков, действующих в разных временных масштабах:

Он предполагает, что ИИ сам по себе может помочь в создании систем раннего предупреждения о злоупотреблениях, хотя это создает «проблему взаимосвязи», когда ИИ, используемый для защиты, сам должен быть надежным.

Хассабис размышляет о том, что делает человека особенным в условиях роста возможностей ИИ. Он ссылается на знаменитый ход 78 Ли Седола против AlphaGo как на момент чистого человеческого гения, который вдохновил команду ИИ и продемонстрировал взаимное вдохновение человека и ИИ (коротко: Ли Седоль сыграл 5 партий в го с AlphaGo и выиграл из них только одну, благодаря тому самому ходу 78. Гу Ли (высший дан по игре, Китай) назвал 78 ход Ли Седоля «божественным ходом» (в терминологии игры го — особый, единственно верный и гениальный ход, случающийся «раз в жизни», чаще всего в критический момент партии) и отметил, что сам абсолютно не видел этот ход).

Его пожизненный интерес к сознанию привел его к нейробиологии (изучению гиппокампа, воображения и памяти). Он считает, что создание ИИ и его сравнение с человеческим разумом будет лучшим способом понять, что же особенного в человеческом сознании.

Хассабис определяет сознание как «то, как мы воспринимаем информацию, когда ее обрабатываем». Хотя он с уважением не соглашается с Роджером Пенроузом в том, что квантовая механика необходима для сознания, он признает, что эта загадка остается неразгаданной.

Он обсуждает проблему распознавания сознания в системах искусственного интеллекта, отмечая, что, хотя мы предполагаем, что другие люди обладают сознанием, основываясь на схожем поведении и субстрате (биологии), в случае с искусственным интеллектом на основе кремния мы можем судить только по поведению. Он предполагает, что интерфейсы «мозг-компьютер» в конечном итоге могут позволить нам испытать, каково это — вычислять на кремнии.

Хассабис выражает надежду, основанную на «почти безграничной изобретательности» и «высокой адаптивности» человечества. Он удивляется тому, как мозг охотников-собирателей адаптировался к современному миру технологий, и предполагает, что эта адаптивность поможет нам пройти через революцию искусственного интеллекта.

Он черпает вдохновение, наблюдая за людьми, достигшими вершин мастерства в спорте, науке или искусстве, и верит, что потенциал человека практически безграничен. Быстрая нормализация использования чат-ботов и ИИ в повседневной жизни демонстрирует замечательную способность общества адаптироваться к трансформационным технологиям.

Мой телеграм - t.me/futuretalk2050