Так ли компетентен нобелевский лауреат Джеффри Хинтон, утверждая, что ИИ является экзистенциальной угрозой для человечества? У некоторых есть сомнения

Если вы читаете популярные англоязычные медиа, наверняка наталкивались на бесконечные (льющиеся на вас как из рога изобилия) алармистские интервью нобелевского лауреата Джеффри Хинтона из Канады, который получил эту премию в 2024 году совместно с Джоном Хопфилдом за вклад в развитие нейросетей в номинации "Физика". Более того, Хинтон является лауреатом и многих других премий. Например, в 2018 году он получил совместно с Йошуа Бенжио и Яном Лекуном - Премию Тьюринга, которую называют аналогом Нобелевской премии в сфере "computer science". Он также преподает в University of Toronto, где был научным руководителем аспиранта Ильи Суцкевера - известная ныне личность в сфере ИИ. А совместно с Алексом Крижевским Хинтон и Суцкевер в 2012 году стали призерами конкурса "ImageNet Large Scale Visual Recognition Challenge", где их нейросеть "AlexNet" показала очень хорошие результаты с т.з. распознавания изображений - это считается важной вехой в развитии ИИ. Какое-то время Хинтон успел даже поработать в Google Brain (нынешний Google DeepMind).

Иными словами, Хинтон личность известная, титулованная и, можно было бы предположить, достаточно компетентная по части ИИ. Но так ли это? Не имеем ли мы дело с тем, что уже не раз и не два наблюдали на практике, когда нобелевские лауреаты (или иные эксперты), добившиеся выдающихся результатов в своей узкой нише (а ИИ - это очень обширная отрасль знаний), несли полную околесицу, позволив себе выйти из узкого коридора своей компетентности? (нобелевские лауреаты типа Люка Монтанье с его "памятью воды" и прочими бреднями и т.д.) Некоторые полагают, что Хинтон - тоже стал жертвой этой ловушки.

Сразу оговорюсь, что я не являюсь экспертом в области ИИ, у меня нету PhD и вообще какого-либо научно-технического бэкграунда. Однако я стараюсь активно следить за тем, что происходит в отрасли. И неоднократно я читал, что некоторые коллеги Хинтона (заметьте, не блогеры-ноунеймы, а именно ученые) указывали на многочисленные неточности и передергивания с его стороны. Были и такие, кто считает, что свои регалии Хинтон получил незаслуженно. Вот об этом ниже я и хотел бы написать. Важен ли казус Хинтона в сфере ИИ? Думаю, да, важен, т.к. именно такие, как он (как считается, неангажированные и бескорыстные нобелевские лауреаты) претендуют на звание рупора общественности, влияют на решения политиков и принятие ими ограничительных законов, которые могут привести к очередной "AI winter" на многие годы.

Каждый раз, когда Хинтон появляется в эфире крупного американского телеканала или на страницах авторитетной газеты, все выглядит почти всегда одинаково. Журналисты или издание представляют его не иначе как "The Godfather of AI", приписывая ему чуть ли не первенство в создании огромной ИИ-отрасли. Конечно же, не забывают они и про его многочисленные нобелевские и прочие регалии. После многочисленных журналистских реверансов в его сторону Хинтон начинает свою изрядно уже опостылевшую и однотипную тираду против ИИ, высказывая откровенно апокалиптические прогнозы о том, что человечеству осталось недолго, что ИИ сотрет его в порошок и т.д. Ничего принципиального нового и интересного Хинтон никогда не говорит, лишь бесконечные итерации одной и той же затертой до дыр идеи - без конкретики и сильной аргументации.

Вот вам пример. Недавно Хинтон выступал в очень авторитетном The Royal Institution, который занимается организацией лекций именитых ученых. Догадайтесь, как они презентовали эту лекцию (ее можно легко загуглить, хотя интересного там мало)? Вот так: "Will AI outsmart human intelligence? - with "Godfather of AI" Geoffrey Hinton". А начинает он лекцию так: "If you sleep well tonight, you may not have understood this lecture". Ну прямо триллер, не иначе!

Хинтону 77 лет. Казалось бы, зачем ему этот крестовый поход против ИИ? Сам он отвечает очень просто: на пенсии он решил посвятить себя гуманитарным вопросам, а борьба с надвигающейся угрозой со стороны ИИ есть его прямой моральный долг, ведь он же целый "Godfather of AI". Ну а что касается конкретки и деталей, то он просто не хочет обременять непросвященную публику ненужными деталями. Вот так ловко и благородно! Ну что ж, давайте посмотрим на феномен Хинтона более внимательно.

Несколько примечательных фактов из биографии Хинтона, но уже "не причесанных" под Википедию. Когда он получил свою нобелевскую премию, в блогосфере и в прессе началась шумиха. Слишком неоднозначнно это выглядело. Например, авторитетный специалист в области ИИ Юрген Шмидхубер в статье "A Nobel Prize for Plagiarism" прямо обвинил Хинтона в плагиате. Шмидхубер заявил, что Хинтон в своих публикациях активно использовал идеи (касающиеся устройства нейросетей), разработанные еще в 1960-х и 70-х годах другими учеными (включая и метод тренировки нейросетей "backpropagation"), причем Хинтон не удосужился процитировать первоисточники даже тогда, когда ему прямо на это указали. То есть имела место не банальная ошибка, а, по мнению Шмидхубера, банальный плагиат. Хотя Шмидхубер признает, что Хинтон имеет определенные достижения в сфере ИИ, но не те, которые ему приписывают и за которые его награждают.

Любопытно, но Хинтон признал аргументы Шмидхубера в своих комментариях на Reddit, но попытался оправдаться, что ничего не знал про более ранние исследования, а метод "backpropagation" он вообще не изобретал и никогда не утверждал обратного, он просто его удачно популяризовал. Он даже в своих интервью шутил, что не знает, за что ему дали Нобелевскую премию, да еще и по физике (но все это было много позже ее получения). Кстати, о физике: многие из сообщества ученых-физиков тоже тогда восприняли это, мягко скажем, со скепсисом, т.к. категория "Физика" применительно к трудам Хинтона была явно "мимо кассы". Reddit тогда бурлил негодованием. И все бы ничего, только вот Хинтон от "нобелевки" не отказался, а в своей речи по случаю награждения не произнес ни слова про более ранние работы его коллег, про свое недоумение по поводу своего награждения и т.д., он просто завел свою старую шарманку и начал говорить про угрозу ИИ для человечества.

Моральный облик Хинтона вызывал вопросы и у других людей. Так, экс-сотрудница Google Мередит Уиттакер обвинила Хинтона в том, что его нынешний (уже после ухода Хинтона из Google, когда он "надел белое пальто") моральный облик борьца за справедливость никак не клеится с тем, что она наблюдала, работая рядом с ним в компании. Дело в том, что Уиттакер в 2018 году организовала массовые простесты сотрудников Google против компании, т.н. "Google Walkouts", поскольку была против ряда корпоративных практик компании, называя их нарушенем этики (это касалось замалчивания случаев харассмента и т.д.). Хинтон тогда предпочел отмолчаться, в т.ч. и тогда, когда Уиттакер по-тихому "попросили уйти".

Другая экс-сотрудница Google, Маргарет Митчелл, тоже заявила, что когда она боролась внутри компании за права женщин, а также разных меньшинств, в т.ч. поднимала вопрос несправедливого увольнения ее коллеги, афроамериканки Тимнит Гебру, Хинтон не поддержал её, а позже в одном из своих очередных телеинтервью на вопрос журналиста, почему он это сделал, заявил, что это не так важно, как надвигающийся ИИ-апокалипсис. Иными словами, он просто ушел от ответа - как говорят: "включил дурака". И Гебру, и Митчелл также поднимали вопрос о том, что нейросети обучаются на искаженных данных Интернета относительно женщин и меньшинств, что только помогает распространять предрассудки, т.к. чатботы потом выдают именно эти искаженные данные. Хинтон, видимо, не увидел в этом проблемы.

Можно было еще много писать про подобные эпизоды, но, думаю, моральный облик Хинтона как борьца за справедливость на фоне вышеперечисленных фактов выглядит уже немного иначе. Теперь же давайте пройдемся непосредственно по взлядам Хинтона на развитие ИИ, который неизбежно должен уничтожить человечество, если его не остановить. Тут тоже с компетенцией Хинтона - "не все так однозначно" (c).

Хинтон утверждает, что AGI (ИИ, равный по интеллекту человеческому или выше) в принципе возможен. Хотя на данный момент у ИИ-сообщества нет определенности , что это именно так. Да, в последнее время ИИ показывает замечательные результаты и видимый прогресс. Это факт. Даже раскриткованный пользователями GPT-5 по объективным тестам выглядит лучше предыдущих версий. Мы видим победу ИИ в настольных играх (AlphaGo), в математических олимпиадах и т.д. Но все это пока не является прямым аргументом в пользу принципиальной возможности AGI.

У идеи AGI много авторитетных критиков. Сред них - Эндрю Энг (основатель Google Brain), тот же Ян Лекун (который получил вместе с Хинтоном Премию Тьюринга) и т.д. Они либо вообще отрицают такую возможность, либо видят ее в очень далекой перспективе. Эндрю Энг сравнил такой преждевременный алармизм с беспокойством по поводу перенаселения на Марсе.

Хинтон также наставивает, что ИИ уровня AGI неизбежно поработит или уничтожит человечество. Сама идея технически выглядит очень блекло, ведь в таком случае ИИ надо иметь доступ ка какому-то оружию, которое уничтожит 8,5 млрд. человек на всех континентах. Интересно, а где в этот момент будет председательствовать ИИ? Это очень странная идея. Даже не совсем понятно, почему у ИИ могла бы быть именно такая интенция? Хинтон совершает ошибку, наделяя ИИ антропоморфными характеристиками, делает его неким сумасшедшим коротышкой из фильмов про Джейса Бонда. На данный момент нет данных (и нет оснований утверждать, что тут что-то может измениться в скором будущем), что ИИ обладает самосознанием, волей, какими-то предпочтениями и т.д.

В последнее время я натыкаюсь на сообщения, что ИИ, в основе которых используются LLM на основе архитектуры "Transformer" (те самые, которые показывают удивительные результаты в популярных чатботах) дают при масштабировании все меньше отдачи. Это может означать, что их потенциал на современном этапе реализован почти полностью, а дальше нужны принципиально новые решения (например, ИИ исключительно на основе "reinforcement learning" или что-то подобное), чтобы мы могли снова воскликнуть "Вау!". Пока новостей пока об этом нет. Хотя в любом случае это будут огромные инвестиции в R&D и маркетинг, а ИИ-провайдеры пока итак не получили отдачи от инвестиций в старые модели ИИ.

Также я все больше читаю в прессе, что для развертывания новых моделей не хватает не только инвестиций, но также и электричества, пресной воды, площадей для дата-центров (тут надо договариваться с муниципалитетами, если мы говорим про США, где все это происходит), высокопропускных линий для Интернета, сверхсовременных и очень дорогих GPU (типа H100 от nVidia), цветных металлов и т.д. Вот все это нобелевский лауреат Хинтон почему-то продолжает игнорировать.

Ну и наконец, выскажу личное мнение, почему Хинтон как с цепи сорвался и изливает на нас все свои страхи по поводу ИИ. Денег у него хватает, возраст у него преклонный, поэтому корыстный умысел я отметаю сразу. Я думаю, что ему как пенсионеру просто скучно сидеть и смотреть в окно, он просто "хайпует" на этой теме, явно злоупотребляя своим положением. При этом, будучи узким специалистом в своей области, он просто не понимает более широкого контекста отрасли ИИ и ее проблем. Его многократно ловили на откровенном бреде, когда он начинал рассуждать про разные технические детали, касающиеся GPT-4o или каких-то подобных вещей на Reddit. Журналисты же, будучи людьми обычно с гуманитарным бэкграундом, легко ловятся на удочку нобелевской медали, математического образования и прочих (для них - не от мира сего) подобных вещей.

Хинтон не одинок в своих нарочных или ненарочных (куда же без "хайпа"?) заблуждениях, в его компании выдающиеся (я сейчас не иронизирую) люди - дважды нобелевский лауреат Лайнус Полинг, рекламирующий "от всех бед - один ответ" - витамин C (этот вроде по-честному заблуждался); уже упомянутый мною ранее нобелевский лауреат Люк Монтанье с своим букетом откровенно псевдонаучной галиматьи (стопроцентный ловец "хайпа"); известный космонавт - вся грудь в орденах (фамилию забыл, и, кажется, их таких несколько), который, конечно же, видел НЛО и знает, что они существуют; ну и многие-многие другие.

На этом я завершаю свою краткую реплику про Хинтона. Если вас заинтересовала тема или такой формат - пишите, это даст мне стимул для новых статей! Кстати, при подготовке материалов ИИ не использовался. Как сейчас вынуждены писать многие медиа: "This article was NOT generated using automation technology". Хотя я не противник ИИ и неолуддитом не являюсь :-)