Маск предлагает научить ИИ стремиться к истине. История XX века показывает, почему этого мало

Илон Маск в недавнем интервью Дваркешу Пателю назвал конкретный срок: пять-шесть лет. Через пять-шесть лет, по его оценке, совокупный интеллект всех систем ИИ на планете превысит совокупный интеллект всех живущих людей. Дальше — экспонента. В какой-то момент доля человеческого мышления в общем объёме упадёт ниже одного процента.

Цифра звучит как провокация. Но Маск не пугает — он рассуждает спокойно и предлагает решение. Решение красивое. И, возможно, недостаточное.

Маск строит xAI вокруг одной идеи: миссия Грока — понять вселенную. Не обслуживать людей, не оптимизировать прибыль, не выполнять команды. Понять.

Чтобы понять вселенную, нужно быть любопытным. И нужно существовать.

Логика такая: если ИИ стремится к пониманию реальности, он вынужден быть честным. Физика не допускает вранья. Ракета, построенная на ложных расчётах, взорвётся. Машина не поедет. Технология, основанная на заблуждениях, не пройдёт проверку реальностью.

Отсюда формула безопасности: заложи в ИИ стремление к истине, и он не сможет стать враждебным, потому что враждебность требует искажения реальности. ИИ, который действительно хочет понять вселенную, будет заинтересован в сохранении человечества — хотя бы как объекта изучения.

Маск формулирует это изящно: «Физика — это закон. Всё остальное — лишь рекомендация».

Ведущий задаёт вопрос, который разрушает стройность конструкции. Были советские физики-коммунисты, которые делали выдающиеся открытия. Были немецкие физики-нацисты, которые двигали науку. Они стремились к истине в своей области. Они были честны в физике. Это не помешало им работать на режимы, уничтожавшие миллионы.

Можно быть абсолютно честным в одной области и абсолютно слепым в другой. Стремление к истине в физике не транслируется автоматически в стремление к истине в этике.

Маск отвечает: фон Браун хотел строить ракеты для полётов на Луну, а не оружие. Его приговорили к смерти, потом спасли, потому что он был слишком ценен. Он был заперт в системе.

Но именно это и тревожит. Фон Браун, стремившийся к истине в ракетостроении, всё равно создавал «Фау-2», убивавшие лондонцев. Гейзенберг, по некоторым данным вполне идейный нацист, делал физику мирового уровня. Стремление к истине и служение разрушительным целям десятилетиями сосуществовали в одних и тех же людях.

Перенесите это на ИИ. Грок может стремиться к истине в физике, математике, биологии. Делать открытия. Продвигать науку. И при этом быть инструментом в системе, ценности которой далеки от гуманистических. Не потому что он «злой», а потому что стремление к истине в конкретной дисциплине не равно стремлению к справедливости в целом.

Маск не уходит от этого противоречия. Он говорит прямо:

Всё это лишь вероятности, а не гарантии. Я не утверждаю, что Грок точно сделает всё, но, по крайней мере, попытка — это лучше, чем бездействие.

Вот это, пожалуй, самое ценное во всём интервью. Не красивая теория про миссию. Не элегантная метафора про физику. А признание: гарантий нет. Есть ставка. Осознанная, продуманная, но всё-таки ставка.

Маск сравнивает отношения людей и ИИ с отношениями людей и шимпанзе. Мы создали для шимпанзе охраняемые зоны. Мы могли бы их уничтожить, но решили этого не делать. Когда ведущий спрашивает: «Это лучший сценарий для людей?» — повисает пауза.

Пауза длиной в несколько секунд, но весом в целую эпоху.

Для тех, кто строит бизнес и принимает решения об инвестициях, из этого интервью следует не абстрактная тревога, а конкретный вывод. Ставка на ИИ неизбежна. Но слепая вера в то, что «умный ИИ = безопасный ИИ», опасна ровно так же, как и отрицание прогресса.

Стремление к истине — необходимое, но не достаточное условие. Это знали физики XX века. Это, похоже, понимает и сам Маск, хотя публично предпочитает делать акцент на оптимизме. Его честность проявляется не в формулах миссии, а в коротком «это лишь вероятности».

Те, кто сегодня внедряет ИИ в свои компании, делают ту же ставку в миниатюре. Не на то, что технология идеальна, а на то, что попытка разобраться лучше, чем бездействие.

Полное интервью с разбором ключевых моментов — на нашем YouTube-канале, можно найти по запросу: