«Пророчество Грефа» не сбудется из-за кризиса математики

Неоднозначное высказывание Грефа о ненужности математических школ – только вершина айсберга заблуждений о том, как нас всех вскоре заменит искусственный интеллект.

Напомним, во вторник, 16 октября, на московском международном форуме «Открытые инновации» глава Сбербанка Герман Греф заявил, что узкоспециализированные «математические» школы – это пережиток прошлого. Также, по его мнению, математики и программисты вскоре повторят судьбу юристов и экономистов, которыми рынок труда пресытился ранее. Более того, он считает, что уже сейчас у работодателей нет проблем с поиском программистов.

(Цитата по «РИА Новости»)

В выступлении спикера немедленно усмотрели посыл «математики не нужны» (и его вариацию «программисты не нужны»). Надо ли говорить, что после этого блогосфера в едином порыве заочно порвала Германа Грефа «на тряпочки». Было все: обвинения в том, что граждан намеренно лишают качественного образования, что «избавляются» от мыслящих людей, что все летит в тар-тарары, что сам автор высказывания даже не понимает, о чем говорит.

- Мне как выпускнику физмат школы, конечно, грустно слышать такие предложения. Интуитивно я однозначно против. Особенно «порадовало» утверждение о том, что у работодателей нет проблем с программистами. Спикер, видимо, не так хорошо ориентируется в этой области и не в курсе, что сегодня программист с пятью годами опыта работы получает по одному приглашению на вакансию в неделю. Правда, половина этих предложений поступает из-за границы. Возможно, идея на самом деле звучит так: «Давайте перестанем их обучать, чтобы они не уезжали» - и это совсем печально. Еще не могу от себя не добавить, что прямо сейчас стали популярны и продолжают развиваться блокчейн-технологии, которые внезапно базируются на серьезной математике. И я бы, в свою очередь, предложил бояться отстать от этого паровоза, а не перенасытиться математиками.

Восстала против Грефа даже министр просвещения Ольга Васильева. Она подчеркнула, что математические центры России необходимы и их будет становиться больше. «За последние 10 лет наши студенческие команды по информатике и программированию были победителями, равных им нет», — цитирует Васильеву информагентство RNS.

Возможно также, что СМИ неверно расставили акценты.

Судя по всему, Греф, выступая против одностороннего развития молодежи, имел в виду то, что если человек _только математик_ или _только программист_, то в современных реалиях ему плохо придется. И чем дальше, тем меньше работодателю нужны такие «однобокие» специалисты.

Если же человек с навыками программирования и знанием математики разбирается и в других, не смежных, предметных областях (например, в финансах, биологии, лингвистике, юриспруденции и пр.), может решать задачи, связанные с ними – он получает +100 очков к востребованности. И к этой суровой реальности неплохо было бы готовить молодых специалистов заранее.

Еще один нюанс состоит в том, что молодежь, в большинстве своем, хочет на выходе получить прикладную специальность, дающую понимание, как и где применить полученные знания. Любая наука «сама в себе» не так востребована. К примеру, на матфаке ОмГУ одна из самых популярных специальностей у студентов, помимо программирования - прикладная математика, а именно исследование операций, методы оптимизации, где все задачи приходят «из жизни».

Так или иначе, сам автор скандальной реплики не пояснил, почему он так считает. Тем не менее, сегодня мы и без того часто слышим сенсационные заявления о том, что в будущем программисты будут никому не нужны: искусственный интеллект (ИИ) заменит не только их, но и математиков, юристов, экономистов и т.д.

Давайте вместе с экспертами «Hello World! Technologies» порассуждаем о том, почему в современных реалиях это всего лишь фантазия и почему в ближайшие десятки лет ИИ этим специальностям «не угрожает». А также заострим внимание на том, что если юриста до определенных пределов может заменить программа, то с математиком это «не прокатит».

Небольшой экскурс в историю. На рубеже XIX и ХХ века пошатнулся на тот момент незыблемый и, казалось, надежный фундамент математики – теория множеств, созданная во второй половине XIX века Георгом Кантором. Обнаружились так называемые парадоксы теории множеств, сущность которых заключается в том, что с помощью логически верных рассуждений удавалось доказать одновременно некое утверждение и его отрицание.

Это означало, что теория множеств противоречива, то есть, с ней совсем беда – доказать можно, буквально, все, что угодно.

И каждый раз, когда парадоксы теории множеств возникали, они приводили к кризисам математики. Таких кризисов было несколько. Как уже ясно из вышесказанного, они были связаны, в том числе, с понятием истины. То есть, что считать истинным, правильным утверждением?

В поисках выхода из кризиса математики сформировали несколько школ, которые яростно противостояли друг другу. Начало ХХ века ознаменовалось тем, что Давид Гильберт предпринял попытку формализации математических доказательств. Что он хотел сделать? Он акцентировал внимание на том, что основа математической теории строится на аксиомах – то есть, утверждениях, которые считаются априори истинными (например, аксиома о том, что две параллельные прямые не пересекаются в евклидовой геометрии) – их не доказать и не опровергнуть, но мы считаем, что эти факты достоверны.

Аксиомы становятся фундаментом теории, и с помощью формальных методов (правила вывода) из них следуют другие факты. Если мы берем факты, которые считаем истинными, и из них получаем другой факт с помощью определенных правил, специальных законов математической логики, системы вывода, то мы опять получаем истинный факт. Если с его помощью мы получим еще один факт - он тоже будет считаться истинным. Главное, чтобы система была не противоречива, как это вышло с теорий множеств!

Цель Гильберта была в том, чтобы описать вообще всю математику через такие формализмы – это называлось Гильбертовой программой. Если бы эта программа удалась, то, в принципе, математика и программиста можно было бы легко заменить вычислительной машиной, которая строила бы доказательство за доказательством, потому что они были бы тогда механистичны, и не было бы никакой проблемы в том, чтобы получить их без участия человека.

Справедливости ради, упомянем, что главными противниками формалистской школы Гильберта были интуиционисты во главе с Лёйтзеном Брауэром. Но постоянных последователей эта школа к себе так и не привлекла.

Школа Гильберта же практически справилась с поставленной задачей и почти спасла математику, но все разбилось о так называемую арифметику Пеано (это набор аксиом, которые описывают натуральные числа). По сути, все в один миг свелось к обоснованию непротиворечивости натуральных чисел.

В 1931 году Гильбертова программа, буквально, рухнула – были опубликованы две теоремы Курта Гёделя, которые разнесли ее в пух и прах. Австрийский логик, математик и филосов обнародовал Теорему Гёделя о неполноте и вторую теорему Гёделя.

Первая теорема говорит о том, что если формальная арифметика непротиворечива, то в ней существует невыводимая и неопровержимая формула. То есть, если мы имеем набор аксиом, содержащих арифметику Пеано - этакий фундамент, который опирается на натуральные числа - то, если этот набор аксиом не противоречив, значит существуют такие факты, которые сами по себе истинны, но их нельзя вывести в этом наборе аксиом. Обнаружились недоказуемые вещи в этой системе аксиом.

Следствием из второй теоремы Геделя стало то, что непротиворечивость арифметики Пеано силами этой арифметики обосновать нельзя. И главная «трагедия» в том, что на данный момент вообще неизвестно, эта арифметика Пеано - набор аксиом, «законов», описывающих натуральные числа - он все-таки противоречив или нет. Де-факто он считается не противоречивым, потому что ни разу еще не удалось свести эти аксиомы к противоречию. Но реального доказательства так и не было получено.

Но если вдруг окажется, что этот набор аксиом противоречив, то многие результаты, которые были получены математиками в ХХ веке, могут быть поставлены под сомнение.

Таким длинным путем мы пришли к тому, что даже сами основы математики не такие четкие и формализованные, как может показаться - они достаточно зыбкие.

Теперь если мы представим машину, которая умеет делать выводы и считать, даже в рамках ограниченной системы, это совсем не значит, что она сможет доказать те факты, которые нам нужны или прийти к нужному выводу. Предположим, эта «машина» у нас – это робот-доктор, который лечит людей. Возможно, в один прекрасный день он столкнется с таким заболеванием, которое с его точки зрения будет неизлечимым. Но в реальности для него болезнь неизлечима не потому, что это действительно так, а потому, что тот набор аксиом, который заложен в робота, не позволяет найти решение.

Грубо говоря, теорема Геделя о неполноте выдала «индульгенцию» для математиков. Можно выдохнуть! Математики нужны, как минимум, для того, чтобы создавать новые теории, проверять, что эти теории не противоречивы, то есть, на основании их можно строить выводы. Между прочим, если взять набор непротиворечивых теорий и объединить, то, скорее всего, получится противоречивая теория. Так что вопрос об автоматизации таких процессов сейчас даже не стоит.

В то же время, надо понимать, что любая теория, которая создается математиками, неточно описывает окружающий мир и нашу жизнь. Ни одна теория не может полностью отразить все то, что происходит вокруг нас. Поэтому любые модели не точны. И, возможно, если какие-то факты, полученные с помощью ИИ, переносить обратно в жизнь, окажется, что они совершенно не верны.

Самый простейший пример – это математический маятник, который проходится в курсе физики в средней школе. Это мощная математическая модель, она работает по своим законам, но учителя всегда отмечают, что в реальной жизни она этого делать не будет. У этой модели мы не учитываем силу трения и, соответственно, реальные маятники в жизни ведут себя совершенно иначе, нежели математический маятник. Тем не менее, с его помощью можно понять некоторые закономерности и законы природы, хотя бы отчасти.

Это еще один довод в пользу того, что живые люди-математики нужны этому миру и предпосылок к тому, что они когда-то исчезнут, пока не наблюдается. По крайней мере, не с той математикой, которой мы располагаем сейчас.

Вообще, среди самих математиков есть противники механистических подходов к формализации, которые считают, что любая попытка такой формализации способна описать только текущее состояние математики. Соответственно, если действовать только так – человечество просто остановится в своем развитии, потому что новые методы, схемы, математические объекты, не будут укладываться в эту формализацию.

Сами по себе попытки все описывать с помощью математических моделей – очень опасное занятие. Предположим, модель говорит, что некое явление или действие невозможно. Если люди начнут слепо доверять выводам машины, то произойдет подмена понятий: невозможно в рамках данной модели и невозможно в принципе. Таким образом, можно не только ошибок наделать, но и остановить прогресс, погубить людей и разрушить мир.

Например, какому-то больному будет отказано в лечении, потому что якобы он безнадежен. Хотя это всего лишь модель всему виной и, найдя другую, человеку можно было бы помочь. Или, допустим, система решит, что самолет или подводная лодка находится в ситуации, когда бороться дальше за выживание бессмысленно – по всем параметрам это невозможно. Смысла что-то предпринимать нет.

Для таких ситуаций как раз и нужен человек! Чтобы попытаться найти решение, которое выходит за рамки обычного или предсказуемого, машинного поведения.

Подобные ситуации очень хорошо описаны фантастами: в критической ситуации человек находит выход из безвыходной ситуации, хотя в повседневной жизни машины, как правило, превосходят.

Что касается программирования, то интерес к формализации и доказательствам возник в 60-х годах ХХ века после публикации работы Чарльза Хоара «Аксиоматический базис языков программирования», в которой он ввел формальную систему аксиом для языков программирования. То есть, он описал подход, который сейчас называется «логика программирования» или «исчисление программирования» - о том, как можно формализовать доказательства корректности компьютерных программ.

За «логику программирования» Хоар получил множество премий и наград и стал одним из уважаемых специалистов в отрасли, в 70-х годах было «модно» развивать эту систему аксиом для введения новых конструкций языков.

Но, как и в случае с Гильбертовой программой, в один прекрасный день все рухнуло. В 80-х вышла статья под названием «Критика логики Хоара», в которой сообщается, что эта система аксиом хорошо работает, пока речь идет о примитивных конструкциях – циклах, ветвлениях и пр. Когда дело доходит до процедур, функций, то, как правило, эта система аксиом становится противоречивой.

Вслед за этим появились работы, авторы которых утверждают, что при определенном стечении обстоятельств вообще не существует никакой полной непротиворечивой системы аксиом - все зависит от конструкции языков. То есть, непротиворечивость удается сохранять только на некоторых подмножествах языков программирования.

Эта ситуация возникла из-за того, что в языках программирования существует так называемая «проблема остановки машины Тьюринга» – проблема разрешимости. Алан Тьюринг доказал в 1936 году, что проблема остановки неразрешима на машине Тьюринга. Грубо говоря, это ситуация, когда невозможно по заданному входу определить, остановится программа или зациклится.

В общем, все попытки построить непротиворечивую систему аксиом приводили к тому, что тут же находились контрпримеры, которые позволяли быстро обнаружить противоречия.

Что эта информация дает нам в рамках данного обсуждения? А то, что если мы сегодня попытаемся построить некую компьютерную программу, искусственный интеллект, который будет писать код за программистов, то она, конечно, справится с задачей, но правильно ли будет работать этот код, будет он корректным или некорректным, мы никогда не узнаем, потому что в основе лежит противоречивый набор аксиом.

А значит, машине по-прежнему нужен человек, который будет оценивать результаты ее работы. По крайней мере, на текущем уровне развития теории вычислительной техники и теории программирования.

Кроме того, мы должны помнить, что есть множество задач, где ошибки просто недопустимы. Например, управление самолетом или атомной станцией. Мы не можем себе позволить после взрыва на АЭС просто сказать, что алгоритм принял ошибочное решение, пошел по неверной ветке и мы все исправили, запретив ему в будущем по этой ветке ходить. Не говоря уже о том, что, в теории, может существовать еще 500 таких веток и нам понадобится еще 500 раз взорвать станцию, чтобы понять, что вот наконец-то алгоритм у нас работает корректно.

Успехи, которые сейчас достигнуты в искусственном интеллекте, связаны с конечными областями знаний, где набор вариантов действий не так велик. Узкоспециализированные задачи можно отдать на откуп соответствующим алгоритмам. Таких задач много, постоянно появляются все новые и новые. Из-за этого и возникает иллюзия того, что в будущем не будут нужны ни математики, ни программисты. Но на самом деле, нет фундаментальной базы для того, чтобы человечество могло себе это позволить.

Но какое же самое уязвимое место у современных искусственных интеллектов? Давайте, к слову, оговоримся, что ИИ – это всего лишь название, которое навязано нам маркетингом. На деле мы имеем просто алгоритмы, которые умеют решать задачи в определенной области. Самое слабое их место – это рефлексия, а точнее, отсутствие рефлексии, то есть, невозможность оценивать результаты собственной работы.

Сейчас для всех алгоритмов оценкой результатов работы занимается человек.

Безусловно, и программирование, и математика достаточно сильно изменятся в будущем и, возможно, в нынешнем понимании программистов действительно когда-то не станет, но исключить из процесса создания программы или математической теоремы человека на данный момент пока не представляется возможным.

Сейчас в стане математиков обсуждается еще одна проблема: есть теория о том, что к 2075 году доказательства станут настолько большими и длинными, что одному человеку будет не под силу за всю жизнь понять даже одно из них. Он просто физически не сможет прочитать и осознать всего лишь одно доказательство на протяжении всех отпущенных ему лет.

То есть, доказательства будут не супер «заумные», а супер длинные. И понятно, что они, вероятнее всего, будут строиться с помощью компьютерных программ. Будет определена некоторая четкая область, в этой области будет доказана непротиворечивость теории и поступит вывод. Но опять же возникают две проблемы.

Во-первых, истинность доказанного факта будет зависеть от доказательства корректности работы соответствующего алгоритма. Как доказать, что алгоритм работает правильно? С этим тоже беда.

Во-вторых, поскольку ни один человек не может доказать или опровергнуть такие сложные доказательства, то фактически вопрос истинности этого доказательства – это будет вопрос договоренности в сообществе математиков. Они должны прийти к консенсусу в том, что тот или иной факт все считают правильным и корректным.

Но все же, исключить из этих процессов самого человека, скорее всего, не удастся. По крайней мере, на том уровне развития теории, который мы имеем сейчас. В ближайшие несколько десятков лет программисты, математики и тестировщики могут спать спокойно.

Хотелось бы обратить внимание еще и на такой вопрос: почему нельзя сравнивать математиков и юристов в плане возможности заменить их работу деятельностью ИИ?

Дело в том, что у юристов предметная область конечна – это свод законов. Он, конечно, невероятно огромен, это разные Кодексы, их приложения и дополнения и т.п. Но это всего лишь конечное число статей. Каждый пункт каждого кодекса, всякая норма – это, по сути дела, аксиома. Так что в данном случае, грубо говоря, речь идет о конечном наборе аксиом.

У математиков, в силу того, что периодически появляются новые теории, предметная область все время расширяется, ее нельзя назвать конечной. Математики могут придумывать новые теории, новые математические объекты. Соответственно, их набор аксиом может постоянно пополняться. Плюс у математиков постоянно есть выбор, какой из имеющихся наборов аксиом брать в работу, а у юристов он всегда один и тот же.

Однако, на сегодняшний день нормы права настолько противоречивы, что один закон легко может исключать другой, а то и вступать в противоречие сразу с несколькими.

Это значит, что если выводы доверить машине, все будет зависеть от элемента случайности: какую цепочку построений вывода она применит. И можно получать результаты как «за» так и «против». Кроме того, постоянно издаются новые законы, и они тоже могут вступать в противоречие с существующими.

В такой ситуации юрист, например, судья – это тот человек, который может взвесить все факты. И его суд, вероятно, будет более справедлив. Вывод машины содержит элемент случайности, более того, эта случайность может закрепляться: даже если вывод будет неверный, но машина уже применила эту ветку в своих рассуждениях, то, вероятнее всего, она будет ходить по ней и дальше.

Еще один нюанс состоит в том, что машина не сможет оценить такие вещи, как степень раскаяния, уровень состояния аффекта или готовность сотрудничать со следствием. В таких случаях верно истолковать ситуацию может только человек, да и то не всякий.

Но так или иначе, у юристов набор аксиом конечен, хоть и огромен с точки зрения простого человека, а у математиков это открытое пространство. Поэтому сравнивать юристов с математиками и программистами не совсем корректно – у них разные предметные области и разные данные.

Механизм построения цепочек рассуждений примерно один и тот же, но сама предметная область кардинально отличается. Верно одно – исключать человека полностью и здесь не представляется возможным.

Сейчас в сфере машинного обучения происходит примерно то же, что во времена изучения радиоактивных веществ, когда еще не знали побочных эффектов от взаимодействия с этими химическими элементами.

Все мы знаем легендарное имя «матери современной физики» Марии Кюри, которая чуть ли не голыми руками работала с полонием и радием. Ее личные вещи до сих пор заражены радиоактивными веществами и безопасно потрогать их можно будет примерно через 1600 лет.

Так вот, тогда Кюри видела только положительные стороны изучаемого предмета, но побочных эффектов еще не знала. А после смерти ее тело пришлось поместить в гроб, обшитый свинцовыми листами толщиной в 2,5 сантиметра.

Сейчас у человечества есть другая мечта, а что будет ее обратной стороной – неизвестно.