Почему искусственный "сверхинтеллект" недостижим

Это кликбейтный заголовок, простите. Мы здесь про научную публикацию будем разговаривать.

Есть мечта у человечества – создать такой интеллект, который превзойдёт его собственный. Может, прям не всего человечества мечта, но многих энтузиастов.

Я уже раньше писала про него у себя в телеграме:

· Никто не знает, что такое «сильный» ИИ и каковы критерии его достижения;

· Никто не знает, какими методами его достигать и возможно ли это вообще;

· Есть работы, вдохновлённые биологией мозга;

· Что имеем на сегодня.

Теперь вот наткнулась на ещё одну статью – «The AI Race: Why Current Neural Network-based Architectures are a Poor Basis for Artificial General Intelligence» («Гонка ИИ: почему сегодняшние нейросетевые архитектуры не годятся в качестве основы общего искусственного интеллекта»). Статья свеженькая, 2024 года, так что давайте посмотрим, что там.

Автор статьи определяет «общий» ИИ как гипотетического сверхинтеллектуального агента, который может выполнить любую задачу, посильную для человека, и сделать это быстрее и лучше. Общий ИИ должен будет обладать следующими характеристиками:

· Он должен уметь выполнять множество различных интеллектуальных задач и не быть ограниченным специфической областью применения;

· Он должен будет уметь адаптироваться к новым задачам и ситуациям;

· Он должен уметь создавать новые идеи и решения, а не следовать существующим правилам;

· Он должен быть наделён здравым смыслом и уметь рассуждать;

· Он должен иметь долгосрочную память, чтобы избегать прошлых ошибок и уметь планировать на будущее;

· Возможно, он ещё должен быть наделён самосознанием, но это так, бонус.

Вообще статья наполнена скептицизмом: автор прямо говорит, что мы все пересмотрели голливудских блокбастеров и не учитываем всего множества ограничений, которым сегодняшний ИИ подвержен. Я не везде с ним согласна, но в данном посте буду представлять его точку зрения, а не свою.

Весь ИИ автор разделил на три группы:

· ИИ для игр;

· ИИ для творчества;

· ИИ-ассистенты.

Это довольно случайный выбор, который просто показался удобным для анализа: он не основан ни на архитектурных особенностях, ни на функциональных различиях. Скорее это взгляд со стороны потребителя, что тоже ценно. В главе 2 автор понятным языком рассказывает о развитии каждого из направлений – советую к ознакомлению.

Например, из этой главы я узнала про генератор изображений DeepDream, который был обучен на генерацию психоделических изображений, подобных тем, что люди видят во снах или под воздействием наркотических препаратов. Сейчас он, впрочем, гораздо более разнонаправленный. Его можно опробовать бесплатно и без регистрации, и я сгенерировала себе паучка за компьютером.

Получилось неплохо. Мне нравится пушистый свитерок, как раз к холодам.

Если зарегистрироваться, вы получаете немного бесплатной энергии, которую можно потратить на создание картинок и видео. Энергия восполняется по единице за час, так что вполне можно обойтись без платных подписок, если вы не генерируете картинки в промышленных масштабах.

Видео, правда, стоят дорого. На первый раз вам даётся 50 единиц энергии, что позволяет сделать одно видео в режиме Morph. Потом в бесплатном аккаунте будет только 20 единиц, а за остальное придётся покупать подписку.

Ещё можно музыку сгенерировать. В общем, загляните, это интересно.

Я здесь не буду расписывать, что ИИ умеет делать хорошо: много раз рассказывала. Вместо этого сразу перейдём к ограничениям.

Во-первых, формат взаимодействия ИИ с миром. Автор говорит о том, что в книгах и кино ИИ выходит из-под контроля и получает доступ к чему-нибудь такому, к чему не должен был получить доступ. В реальной жизни такой доступ существенно затруднён тем, что модель может получить на вход и обработать данные строго определённого формата. В тех экспериментах, в которых ИИ «сбегает с сервера» или «шантажирует разработчика» (разбирали подобное здесь и здесь) подготовлена специальная среда, прописаны все входы и выходы.

Сейчас существуют ИИ-агенты, которые могут взаимодействовать с вашим компьютером, и они специально отдельно обучены на взаимодействие с элементами интерфейса: кнопками, текстовыми полями и прочим. То есть, получить новые возможности взаимодействия с миром реально, но требуется специальное обучение. Во всяком случае, на данный момент.

Во-вторых, то, как ИИ обрабатывает информацию, заложено в архитектуре моделей. Если модель обучена воспринимать только текст, она не сможет обрабатывать изображения, просто потому что внутри неё нет необходимых компонентов. В своей длинной лекции на ютубе я подробно рассказываю про разные архитектуры и их особенности (на дзене это видео тоже есть).

Чтобы модель получила доступ к новому типу данных, её нужно не только переобучить, но и перестроить.

В-третьих, сам процесс обучения ИИ имеет ограничения: он требует строгого определения цели обучения в виде математической модели, что не всегда возможно. Кроме того, не всегда возможно отследить, научилась модель тому, чему мы хотели её научить или чему-то другому, и просто по стечению обстоятельств её ответы (пока) выглядят правильно.

Это всё в проблемы в общем виде, а о некоторых частных случаях я тоже ранее писала здесь.

Вслед за автором сегодняшней статьи повторю в который раз: ИИ влияет на нашу жизнь, каким бы он ни был. Вообще много куда более простых вещей влияют на нашу жизнь, что уж там говорить.

Изменения в структуре рынка труда, появление новых мошеннических схем, довольно неконсистентное правовое регулирование области, расширение разрыва между как бедными и богатыми странами, так и бедными и богатыми людьми. Повышение доступности информации идёт рука об руку с зашумлением информационной среды, в которой всё сложнее и сложнее разобраться. Распространение образования и повышение доступности новых навыков соседствует с ростом требований работодателей: если программиста нижнего звена хотят заменить ИИ, студенту вуза надо выпускаться уже системным архитектором с двадцатью годами трудового стажа. И так далее, и тому подобное.

Короче говоря, бороться стоит не с появлением Терминатора, а за поддержку уязвимых групп населения, сокращение неравенства и распространение знаний. И за ответственное и этичное использование ИИ.