Что происходит внутри ИИ пузыря. Конференция NeurIPS

Секретные вечеринки, щедрые фуршеты и разговоры о конце света на крупнейшей ИИ конференции. Колумнист The Atlantic Alex Reisner исследовал самую большую ИИ конференцию NeurIPS, чтобы разобраться, о чем действительно волнуется отрасль ИИ. Исследователи ИИ поддерживают активно циркулирующие в общественном пространстве угрозы ИИ: конец человечества и массовые сокращения. Но у Alex возник вопрос: а кто является бенефициаром этих громко обсуждаемых угроз ИИ? Наблюдая за 25летним ИИ инженером, обсуждающим зар.плату с семью нулями на секретной конференции, и "отцом-основателем" ИИ, рассказывающим, что ИИ отрасль должна найти решение ИИ решение, колумнист догадался, кто реальный выгодоприобретатель страхов AGI.

В начале декабря в маленькой комнате в Сан Диего, мужчина в черном кожаном пиджаке рассказал Alex Reisner, колумнисту The Atlantic, как уберечь мир от разрушительного воздействия ИИ. Max Tegmark – значимая фигура в движении за безопасный ИИ. Он считает, что «artificial general intelligence» или AGI может ускорить конец человечества. Все это происходило на NeurIPS, одной из самых крупнейших ИИ конференций. Max Tegmark пригласил Alex Reisner и еще пять журналистов на брифинг по индексу безопасного ИИ, который планировался к публикации в понедельник. Ни одна из компаний не получила балл выше C+.

Угроза превосходства технологий описана в научной фантастике и стала предметом серьезных обсуждений в последние годы. Несмотря на нехватку конкретного определения, глава OpenAI считает, что AGI «не хватает четкого описания». При этом идея, что ИИ – угроза для человечества, считается распространенной во многих кругах.

Генеративный ИИ – могущественная технология, которая уже оказывает влияние на нашу работу и жизнь. СверхИИ стал персонажем продвигаемой ИИ отраслью идеи, что ИИ может научиться быть подобием человека, так как у технологии есть «прорывные» способности, с помощью которых «рассуждающие модели» действительно умеют рассуждать. ИИ отрасль считает, что технология будет себя сама улучшать.

Alex Reisner путешествовал по NeurIPS, которая проходила в прибрежной башне San Diego Convention Center. Колумнист пытался ответить на вопрос: действительно ли ИИ отрасль верит в свои идеи? Действительно ли вера в AGI ведет к исследованиям и разработке продуктов? Когда он спросил об этом Max Tegmark, то последний сообщил, что ключевые ИИ компании на полном серьезе хотят создать AGI, но его аргументация была не очень убедительна. Max Tegmark: «Я знаю основателей ИИ компаний. Они говорят про это публично».

За последнее десятилетие посещаемость NeurIPS резко увеличилась по мере роста опасений и восторга от ИИ. В 2015 году конференцию посетило 3 850 человек, в 2025 – 24 500 человек. Три главных зала конференции по площади равны нескольким ангарам для дирижаблей. Докладчики выступали перед многотысячной аудиторией. Rich Sutton, легендарный компьютерный эксперт: «Я считаю, что мы в поисках, и мы ищем Святой Грааль».

Корпоративные спонсоры конференции поставили стойки, чтобы продвигать свои достижения и производить впечатление на посетителей своим R&D видением. Среди компаний- Google, Meta*, Apple, Amazon, Microsoft, ByteDance иTesla, а также такие как as Runpod, Poolside и Ollama. Lambda рекламировала себя как «Сверхумное облако». Часть техно гигантов вообще отсутствовали в этом холле, например, OpenAI, Anthropic и xAI.

*Платформа запрещена в РФ

Исследователи посчитали, что репутация компаний слишком известна, и стенд им не нужен.

Главная цель конференции – борьба за ИИ таланты. Большая часть работы по найму происходит за пределами конференции на почти секретных мини конференциях по специальным приглашениях в Сан Диего. Эти мероприятия отражают непрозрачность ИИ отрасли. Лаундж в ИИ компании Laude Institute выпускники вузов рассказали, что стартовые зар.платы в ИИ исчисляются «миллионами», причем речь шла об опционах. Лаундж выглядел как VIP зона на музыкальных фестивалях. Этот лаундж находится на верхнем этаже Hard Rock Hotel.

Еще одна вечеринка – от компании Cohere, канадской компании, создающей большие языковые модели. Вечеринка была организована на борту авианосца USS Midway в гавани Сан Диего. Цель вечеринки- «оценить ИИ потенциал, связывающий наш мир».

Еще она вечеринка организована Университетом ИИ имени Mohamed bin Zayed. Это первый в мире ИИ университет, названный в честь президента ОАЭ. В начале года MBZUAI основал Institute for Foundation Models- исследовательскую группу в Силиконовой Долине. На вечеринке, организованной в стейк хаусе, подавали устриц, королевских креветок, севиче и другие угощения. На верхнем этаже Meta организовал свою вечеринку. По слухам, сотрудники Meta мечтали получить место в Institute for Foundation Models, где платят больше.

Из 5630 докладов, представленных на сессиях в NeurIPS, только два включали аббревиатуру AGI. Неформальный опрос 115 исследователей на конференции показал, что более четверти из них даже не знают, как расшифровывается AGI. В то же время AGI как идея и связанный с ней престиж является причиной этого банкета. Угощения на вечеринке явно были оплачены не из прибыли от чатботов. Например, OpenAI ожидает огромные потери до конца 2030 года. Как долго отрасль сможет предлагать севиче на вечеринках? И что будет с экономикой, которую, как многие верят, стимулируется ИИ, когда эта вера исчезнет?

Zeynep Tufekci, писатель и социолог, предупредила исследователей, что идея супер ИИ мешает им понять технологию, которую они создают. Ее выступление называлось «Are We Having the Wrong Nightmares About AI?». Zeynep упомянула многие страхи, которые связывают с ИИ ботами, включая аддиктивность к ботам и проблему установить истину.

После выступления Zeynep один из слушателей выглядел разочарованным. «Вы вообще следите за последними исследованиями? Мы как раз пытаемся решить эти проблемы. Мы про них знаем». Ответ Zeynep: «Я не вижу таких дискуссий. Я продолжаю видеть людей, обсуждающих массовые сокращения и исчезновения человечества».

Правы все: многие разработчики ИИ ищут решение насущных проблем, но многие дискуссии ведутся о страхах ИИ. Даже в названии конференции – противоречие. NeurIPS – это Neural Information Processing Systems. ИИ сеть была изобретена в 1940-х как дуэт логической и нейрофизиологической сетей, причем авторы недооценили сложность биологических нейронов и с легкостью сравнивали их с цифровым компьютером. Главная навязчивая идея всей ИИ отрасли: компьютер - это аналог человеческого разума. Anthropic и OpenAI опубликовали отчеты, где чат-ботов называют «недостойными доверия» и «нечестными». Научная фантастика побеждает науку.

На крыше Hard Rock Hotel колумнист Alex Reisner послушал интервью с Yoshua Bengio, одним из трех «отцов» ИИ. Yoshua – со-изобретатель алгоритма, который сделал возможным появление ChatGPT. Недавно Yoshua основал НКО LawZero, чтобы стимулировать развитие подхода в ИИ - “safe by design”. Название НКО он взял из романов Айзека Азимова. В этих романах такой закон гласил, что робот не должен причинять вред человеку. Yoshua Bengio обеспокоен, что в случае мрачного будущего ИИ может обмануть своих создателей и те , "что будут обладать самым мощным ИИ, будут злоупотреблять им политически и влиять на общественное мнение».

Yoshua не упоминал, как фейковые видео уже влияют на общественное мнение. Он не затронул проблему влияния чат-ботов на психологическое здоровье пользователей, не сказал, как идет разграбление искусства и гуманитарных сущностей. Он считает, что катастрофа наступит лет «через 10 или 20». По его мнению, у нас есть шанс «разобраться в этом технически».

Yoshua Bengio раньше писал о самых очевидных угрозах ИИ. Но его технические и идеологические заметки отражают те настроения техно евангелистов, которые активно муссируются в публичном поле. С виду кажется, что эти техно ребята пытаются нас всех спасти. Но кто конкретно выигрывает от их страшных прогнозов? Наблюдая за 25-летним техно специалистом, обсуждающим предложение о работе с семизначными нулями, становится понятно, кому это нужно.

Ссылка на статью: