Воспринимаем ли мы ИИ достаточно серьезно? 🤔

Привет, друзья! Сегодня мы хотели бы поделиться с вами интересной визионерской статьей про ИИ из журнала The New Yorker. Публикация Джошуа Ротмана поднимает важные вопросы о будущем искусственного интеллекта и о том, насколько серьезно мы к нему относимся.

Когда вы в последний раз задумывались о том, как серьезно мы должны относиться к искусственному интеллекту? В то время как мы погружены в политические и социальные кризисы, технологическая революция тихо набирает обороты, и мало кто из нас уделяет этому должное внимание.

Автор статьи рассказывает, как помогал своей теще разобраться с предложением о продаже пляжного кондоминиума с помощью ChatGPT 4.5 с функцией "глубокого исследования" (доступна на тарифах "plus" и "pro" за $200 в месяц). За три минуты ИИ выдал подробный отчет о том, что предложение было заниженным, привел примеры аналогичных продаж поблизости и даже предложил стратегию переговоров.

Впечатляющий результат, верно? Конечно, юрист по недвижимости мог бы провести лучший анализ — но не за три минуты и не за $200. В тот момент автор понял: **это реально**. ИИ уже здесь, и он действительно работает.

Многие люди не знают, насколько серьезно относиться к ИИ. Сложно разобраться, ведь технология новая, а хайп мешает ясно видеть картину. Мудро сопротивляться рекламным обещаниям, поскольку будущее непредсказуемо.

Но и анти-хайп, возникающий как иммунный ответ на чрезмерный оптимизм, не обязательно проясняет дело. В 1879 году New York Times опубликовала на первой полосе статью о лампочке Эдисона, где цитировала видного инженера, который "протестовал против раздувания результатов экспериментов Эдисона с электрическим освещением как 'удивительного успеха'". Он не был неразумен: изобретатели десятилетиями терпели неудачи в создании работоспособных лампочек.

Хайп вокруг ИИ создал два типа скептицизма:

1. Технология скоро выйдет на плато: возможно, ИИ продолжит испытывать трудности с планированием или с явно логическим, а не интуитивным мышлением.

2. Мир сложно изменить: даже если очень умный ИИ может помочь нам спроектировать лучшую электрическую сеть, людей все равно нужно будет убедить ее построить.

Эти идеи звучат убедительно и вызывают успокаивающий настрой "подождем и увидим". Но что думают эксперты?

В книге "Эра масштабирования: Устная история ИИ, 2019-2025" (Stripe Press) подкастер Дваркеш Патель собрал интервью с инсайдерами индустрии ИИ. И практически никто из опрошенных — от крупных боссов вроде Марка Цукерберга до инженеров и аналитиков — не говорит, что ИИ может выйти на плато.

Наоборот, почти все отмечают, что технология улучшается с удивительной скоростью: многие говорят, что AGI (искусственный общий интеллект — примерно человеческий уровень интеллектуальной мощи и независимости) может появиться к 2030 году или раньше.

Сложность цивилизации тоже, похоже, не смущает большинство из них. Многие исследователи уверены, что следующее поколение систем ИИ, которое, вероятно, появится в конце этого года или в начале следующего, будет решающим. Они позволят широко внедрить автоматизированный когнитивный труд, начав период технологического ускорения с глубокими экономическими и геополитическими последствиями.

Языковая природа чат-ботов ИИ упростила представление о том, как системы могут использоваться для письма, юриспруденции, преподавания, обслуживания клиентов и других языковых задач. Но разработчики ИИ фокусируются не только на этом.

"Одной из первых профессий, которые будут автоматизированы, станет исследователь или инженер ИИ", — говорит Леопольд Ашенбреннер, бывший исследователь выравнивания в OpenAI.

Ашенбреннер объясняет, что если технологические компании смогут собрать армии ИИ-"исследователей", которые смогут находить способы делать ИИ умнее, результатом может стать петля обратной связи интеллекта. "Все может начать двигаться очень быстро", — говорит он.

Автоматизированные исследователи могут перейти в такую область, как робототехника; если одна страна обгонит других в таких усилиях, по его мнению, это "может стать решающим, например, в военной конкуренции".

В конечном итоге это может привести к ситуации, когда правительства будут рассматривать возможность запуска ракет по дата-центрам, которые, кажется, находятся на грани создания "суперинтеллекта" — формы ИИ, которая намного умнее человека.

"Мы в основном окажемся в ситуации, когда защищаем дата-центры угрозой ядерного возмездия", — заключает Ашенбреннер. "Может, это звучит немного безумно".

Это сценарий с самой высокой интенсивностью, но даже менее радикальные прогнозы всё равно поражают.

Экономист Тайлер Коуэн придерживается сравнительно постепенного взгляда: он предпочитает перспективу "жизнь сложна" и утверждает, что в мире может быть много проблем, которые нельзя решить, независимо от того, насколько интеллектуален ваш компьютер.

Вместо этого он считает, что ИИ может положить начало периоду инноваций, примерно аналогичному тому, что произошло в середине двадцатого века, когда, как выразился Патель, мир прошел "от ракет Фау-2 до высадки на Луну за пару десятилетий". Это может показаться умеренным взглядом, но подумайте, что принесли нам те десятилетия: ядерные бомбы, спутники, реактивные путешествия, "зеленую революцию", компьютеры, операции на открытом сердце, открытие ДНК.

Соблазнительно позволить этим взглядам существовать в собственном пространстве, как будто вы смотрите трейлер фильма, который, вероятно, не увидите. В конце концов, никто на самом деле не знает, что будет! Но на самом деле мы знаем многое.

Уже сейчас ИИ может обсуждать и объяснять многие предметы на уровне доктора наук, предсказывать, как будут сворачиваться белки, программировать компьютер, раздувать стоимость мемкоина и многое другое.

Мы также можем быть уверены, что он значительно улучшится в течение следующих нескольких лет — и что люди будут выяснять, как использовать его способами, которые влияют на нашу жизнь, работу, открытия, строительство и творчество.

Все еще остаются вопросы о том, как далеко может зайти технология, и о том, действительно ли она, концептуально говоря, "думает" или творит. Тем не менее, в вашей мысленной модели следующих десяти-двадцати лет важно понимать, что больше нет сценария, в котором ИИ уходит в тень. Вопрос на самом деле о степени технологического ускорения.

"Степени технологического ускорения" могут звучать как что-то, о чем должны беспокоиться ученые. На самом деле это политический вопрос.

Аджея Котра, старший советник Open Philanthropy, формулирует сценарий "мира мечты", в котором ускорение ИИ происходит медленнее. В этом мире "наука такова, что не так легко радикально пролететь через уровни интеллекта", — говорит она Пателю.

Если "цикл ИИ-автоматизирующий-ИИ" задерживается в развитии, объясняет она, "тогда у общества есть много возможностей как формально, так и культурно регулировать" приложения искусственного интеллекта.

Конечно, Котра знает, что этого может не произойти. "Я беспокоюсь, что многие мощные вещи придут очень быстро", — говорит она.

Правдоподобность наиболее тревожных сценариев ставит исследователей ИИ в неловкое положение. Они верят в потенциал технологии и не хотят его недооценивать; они справедливо обеспокоены своей причастностью к какой-то версии апокалипсиса ИИ; и они также очарованы самыми спекулятивными возможностями.

Это сочетание факторов подталкивает дебаты вокруг ИИ к крайностям. В результате, хотя ИИ уже здесь, его последствия в основном воображаются техническими специалистами.

Искусственный интеллект повлияет на всех нас, но политика ИИ еще не сформировалась. Понятно, что гражданское общество полностью поглощено политическими и социальными кризисами; кажется, у него мало времени для технологической трансформации, которая вот-вот нас поглотит. Но если мы не займемся этим, люди, создающие технологию, будут единолично отвечать за то, как она изменит нашу жизнь.

Создатели ИИ, несомненно, умны. Но, ничуть не проявляя неуважения, важно сказать, что они не типичны. У них есть определенные навыки, склонности и определенные ценности.

В одном из лучших моментов книги Пателя он спрашивает Илью Суцкевера (бывшего главного научного сотрудника OpenAI), что он планирует делать после изобретения AGI. Разве он не будет недоволен, живя в каком-то пост-дефицитном "доме престарелых"?

"Вопрос о том, что буду делать я или другие после AGI, очень сложен", — говорит Суцкевер. "Где люди найдут смысл?" Он продолжает:

"Но это вопрос, с которым ИИ мог бы нам помочь. Я представляю, что мы станем более просветленными, потому что взаимодействуем с AGI. Он поможет нам видеть мир более правильно и стать лучше внутри в результате взаимодействия с ним. Представьте, что вы разговариваете с лучшим учителем медитации в истории. Это будет полезная вещь".

Будут ли большинство людей — люди, которые не являются компьютерными учеными и которые не посвятили свою жизнь созданию ИИ — думать, что они могут найти смысл своей жизни, разговаривая с ИИ? Будут ли большинство людей думать, что машина сделает их "лучше внутри"?

Дело не в том, что эти взгляды за гранью. (Они могут, как ни странно, оказаться правильными.) Но это не значит, что мировоззрение, стоящее за ними, должно быть нашей Полярной звездой, когда мы вступаем в следующую технологическую эпоху.

Трудность в том, что формулирование альтернативных взглядов — взглядов, которые убедительно объясняют, чего мы хотим от ИИ и чего не хотим — требует серьезной и широкой гуманистической интеллектуальной работы, охватывающей политику, экономику, психологию, искусство, религию. И время для этой работы истекает.

На данный момент от нас — тех, кто находится за пределами ИИ — зависит, вступим ли мы в этот разговор. Что мы ценим в людях и в обществе? Где мы хотим, чтобы ИИ помог нам, а когда хотим, чтобы он держался в стороне?

Будем ли мы считать ИИ неудачей или успехом, если он заменит школы экранами? А как насчет того, если он заменит собой давние институты — университеты, правительства, профессии?

Если ИИ становится другом, доверенным лицом или возлюбленным, переступает ли он границы, и почему? Возможно, успех ИИ можно измерить тем, насколько он восстанавливает баланс в нашей политике и стабильность в нашей жизни, или тем, насколько он укрепляет институты, которые в противном случае мог бы разрушить.

Возможно, его неудача может быть видна в том, насколько он подрывает ценность человеческого разума и человеческой свободы. В любом случае, чтобы контролировать ИИ, нам нужно обсудить и утвердить новый набор человеческих ценностей, которые в прошлом нам не нужно было указывать.

В противном случае мы оставим будущее на усмотрение группы людей, которые в основном хотят знать, будет ли работать их технология и как быстро.

Мы в Sherpa Robotics согласны с автором статьи в том, что необходимо расширить дискуссию о будущем ИИ за пределы технического сообщества. Мы считаем, что будущее за симбиозом человеческого интеллекта и ИИ, а не за полной автоматизацией человеческой деятельности. А что думаете про прогресс ИИ вы?