ИИ и пограничный парадокс

Основатель Sequoia, Дон Валентайн, задавал учредителям два вопроса: "почему сейчас?" и "каков результат?" В основе этих вопросов лежит сочетание любопытства и строгости, которое спрашивает, что изменилось в мире (почему сейчас?) и что это будет значить (каков результат?).

Искусственный интеллект (ИИ) имеет убедительный ответ на вопрос "почему сейчас?" с разработкой больших языковых моделей (БЯМ) обученных с использованием архитектуры Transformer. Трансформеры хорошо подходят для графических процессоров, что позволяет практически использовать огромные объемы данных и вычислительные мощности для обучения моделей ИИ с миллиардами и триллионами параметров.

Теперь у нас также есть убедительный ответ на вопрос "каков результат?" Эти технологии позволили создать совершенно новый пользовательский интерфейс для компьютеров: человеческий язык. Точно так же, как графический пользовательский интерфейс сделал персональный компьютер доступным для миллионов клиентов в 1980-х годах, новые естественные языковые интерфейсы сделали ИИ доступным для сотен миллионов пользователей по всему миру в прошедшем году.

Искусственный интеллект пережил много восходящих и нисходящих циклов. Когда ИИ на подъеме, как сейчас, термин избыточно используется, чтобы включить не только передовые технологии предсказательного характера, но и любое программное обеспечение, которое в некотором смысле "умное". Во времена предыдущих зим ИИ исследователи отступали к более безопасным терминам, таким как машинное обучение.

Эффект ИИ Джон Маккарти придумал термин ИИ в 1950-х годах, чтобы отличить свои исследования от исследований его старшего соперника Норберта Винера в кибернетике. Тем не менее сам Маккарти разочаровался в этом термине, жалуясь: "Как только это начинает работать, его уже никто не называет ИИ". Маккарти назвал тенденцию переименовывать прошлые усилия по созданию ИИ с более функциональными описаниями, как только они были достаточно решены, "эффектом ИИ", и это влияет на нас и по сей день. История ИИ усеяна достижениями, которые работали достаточно хорошо, чтобы больше не считаться достаточно интеллектуальными, чтобы получить стремительное имя.

Как краткое напоминание, рассмотрим компьютерное зрение, которое лежит в основе текущих успехов в области генерации изображений. На протяжении долгого времени обнаружение объектов на изображениях или видео было передовым достижением ИИ, теперь это всего лишь одна из многих технологий, позволяющих вам заказать автономную поездку от Waymo в Сан-Франциско. Мы больше не называем это ИИ. Скоро мы будем называть это просто машиной. Точно так же обнаружение объектов на ImageNet было крупным прорывом в глубоком обучении в 2012 году и теперь присутствует в каждом смартфоне. Больше не ИИ.

На стороне естественного языка есть долгая история до появления ChatGPT, Claude и Bard. Я помню, как использовал Dragon Speech-To-Text примерно в 2002 году для набора электронных писем, когда у меня была сломана рука. То, что когда-то называлось ИИ, теперь просто "диктовка" и есть на каждом телефоне и компьютере. Перевод языка и анализ настроения, ранее сложные проблемы в обработке естественного языка, теперь в основном являются стандартными. Не ИИ.

Легко забыть, насколько многое из того, что мы принимаем как должное в облаке, возникло из предыдущих областей ИИ, таких как системы рекомендаций (Netflix и Amazon) и оптимизация путей (Google Maps и UPS). Чем более повседневным становится что-то, тем меньше вероятность, что мы будем называть это ИИ.

Ярмарка разочарований То, что считается ИИ и что нет, важно для учредителей, потому что в долгосрочной перспективе всегда лучше обещать меньше и выполнять больше. Как описывает Gartner в течение десятилетий циклов технологического хайпа, дикое восторженное состояние неизбежно сменяется разочарованием - ярмаркой разочарований.

Учредители получают выгоду в короткосрочной перспективе от буззи маркетинга, но за счет этого. Артур К. Кларк знаменито написал: "Любая достаточно сложная технология неразличима от магии". Но он был писателем научной фантастики. Практики машинного обучения - это ученые и инженеры, и, тем не менее, их усилия всегда кажутся магией с первого взгляда - до тех пор, пока это не прекращается.

Текущая парадигма ИИ похожа на гонку за морковкой на палке, бегущей на беговой дорожке. Для сегодняшних учредителей я думаю, что пришло время сломать этот цикл, понимая, что на самом деле происходит.

Более точная лексика Есть лингвистическая причина, по которой мы постоянно допускаем те же ошибки. Если мы используем Оксфордский словарь английского языка для рекурсивного разбора термина "Искусственный интеллект", мы находим:

Искусственный: сделанный или произведенный людьми, а не происходящий естественным образом, особенно как копия чего-то естественного. Интеллект: способность усваивать и применять знания и навыки. Знание: факты, информация и навыки, приобретенные человеком опытом или образованием; теоретическое или практическое понимание предмета. Навыки: способность делать что-то хорошо. Каждое звено этого рекурсивного определения зависит от либо "людей", либо "человека". Таким образом, по определению, мы рассматриваем ИИ как имитацию человека. Думайте о тесте Тьюринга. Но как только возможность твердо находится в области машин, мы теряем точку отсчета человека, и перестаем думать о ней как о ИИ.

Часть этого - это человеческий исключительнизм. За века мы подняли аспекты интеллекта, которые кажутся уникально человеческими: язык, воображение, креативность и логика. Мы оставляем определенные слова для себя. Люди думают и рассуждают, компьютеры вычисляют. Люди создают искусство, компьютеры его генерируют. Люди плавают, лодки и подводные лодки - нет. И все же "компьютер" был когда-то профессией 17 века для человека, который считал, и мы использовали комнаты, наполненные ими, прежде чем мы формализовали механические и электронные компьютеры.

Эффект ИИ является частью более крупного человеческого явления, которое мы называем фронтовым парадоксом. Поскольку мы приписываем человеку границу за пределами нашего технологического мастерства, эта граница всегда будет плохо определена. Интеллект не является вещью, которую мы можем захватить, а всегда приближающимся горизонтом, который мы превращаем в полезные инструменты. Технология - это искусство интеллекта, созданное на протяжении тысячелетий человеческого сотрудничества и конкуренции.

Еще в 2018 году меня вдохновила запись профессора статистики и компьютерных наук из Беркли Майкла Джордана. "Будем ли мы понимать 'интеллект' в ближайшее время или нет", он написал, "у нас действительно серьезные задачи на руках в том, чтобы объединить компьютеры и людей таким образом, чтобы улучшить человеческую жизнь. Хотя некоторые считают, что эта задача подчинена созданию 'искусственного интеллекта', ее также можно рассматривать более прозаически, но с не меньшим почтением, как создание нового раздела инженерии."