Технооптимизм

На днях я посмотрел интервью с Сэмом Альтманом, генеральным директором компании OpenAI. Высказанные им мысли относительно будущего ИИ показались мне интересными. И сегодня я хочу поделиться с вами основными тезисами и идеями, озвученными Сэмом.

Текущий период развития ИИ можно сравнить с периодом открытия фундаментальной физики. В той его части, что мы начинаем понимать, как предсказать интеллект обучаемого ИИ еще до того, как мы (человечество) начнем его обучать. Мы можем сказать: нужно вот столько вычислений, нейросеть вот такого размера и вот такие обучающие данные. И на выходе сможем понять, каковы будут возможности будущей модели. Но что нас действительно интересует - можем лы мы предсказать качественно новые вещи, новые возможности, которых не существовало ранее? И это важно выяснить. Прямо сейчас мы можем сказать, что ИИ прогнозируемым образом справится с определенной оценкой или метрикой. И это действительно является настолько важным событием, что мы будем оглядываться на этот период как на один из самых важных периодов человеческих открытий.

Что касается того, думаем ли мы о том, когда выйдем за пределы человеческого интеллекта? Некорректно думать в этой плоскости, поскольку в одних сферах это будет, а в других нет. Вы уже знаете, что эти системы круче человека в каких-то конкретных областях и крайне плохи в других. И это нормально.

Каждый будет управляющим того объема работ, который он хочет делать. И будет куча людей, которых нужно будет координировать, направлять, и обеспечивать обратную связь. Но будет множество агентов, которые будут выполнять для нас все более сложные задачи. И это будет происходить постепенно.

ИИ присоединяются к обществу, они присоединяются к рабочей силе. Но не будет так, что в какой-то момент мы поймем, что каждый ИИ стал намного мощнее человека.

Как ИИ повлияет на малый бизнес? Давайте просто заглянем в будущее и порассуждаем. Как владелец бизнеса, я могу принять решение нанять виртуального помощника, который будет присутствовать на моих созвонах, делать после них протокол, и еще пару часов заниматься моей бухгалтерией. Можно ли считать, что у нас будут такие постоянные члены команды? Это определенно один из вариантов, которые можно рассматривать. Это своего рода виртуальный работник. И таких работников у нас может быть много.

Но есть и другая сторона. Однажды системы искусственного интеллекта, либо полуавтономно, либо в процессе помощи нам, смогут делать новые научные открытия. И если скорость научного прогресса человечества увеличится в 10, 100 или 1000 раз за год, это будет ощущаться иначе, чем просто увеличение количества виртуальных сотрудников.

В книгах Азимова люди имеют тенденцию считать, что ИИ не может притвориться актером, потому что ИИ никогда не сможет быть творческим. Или никогда не сможет быть смешным или что-то еще. Таким образом, конечная цель продолжает сдвигаться. Но создание нового в науке может считаться целью, после достижения которой ИИ станет чем-то иным.

К тому времени, когда ИИ будет создавать что-то новое в науке, мы снова сдвинем цель и скажем, что это изначально не было так уж впечатляюще. Если вы посмотрите на большинство прогнозов, сделанных 10 лет назад, может быть, даже 5 лет назад, то заметите, что большинство экспертов сказали бы, что сначала ИИ займет сферу физического труда. Он будет водить грузовики, работать на заводах. Затем он захватит более простые задачи когнитивного труда. Потом он займется действительно сложными задачами. Например, будет писать программный код. И когда-нибудь, в отдаленном будущем, он сможет заниматься чем-то творческим. И, конечно, все пошло прямо в противоположном направлении. Почти все предсказания были неверны. Но тот факт, что он может заниматься подобным творчеством, и тот факт, что он может использовать код для проверки, дает надежду, что у нас может появиться ИИ, который сможет заниматься наукой. До того, как у нас появится робот для завода.

Увлекательно немного проследить этапы обучения языковых моделей. Очевидно, что их обучают через чтение всего Интернета. Но улучшение случилось после обучения их программированию. Был момент, когда модели обучались писать код, и их способность рассуждать стала значительно лучше. Что, кстати, происходит и с руководителями. Если они учатся программировать, то улучшается логика их рассуждений.

Интересно увидеть, что произойдет, когда ИИ научится работать с видео. И есть много вещей, которые гораздо легче изучить с помощью видео, чем с помощью текста. В этой области ведутся большие дебаты о том, может ли языковая модель пройти весь путь до сильного ИИ. Можно ли все описать языком? Достаточно ли языка или нужно видео? Это глупый вопрос. Потому что не исключено, что это возможно. Но самый быстрый путь к сильному ИИ, более легкий путь, будет заключаться в иной репрезентации. Например, через видео. Текст не является лучшим решением во всех случаях, даже если им можно все описать. По сути, эти модели - это просто входящие и исходящие биты данных. И многое можно так представить. Но мы все равно должны найти наилучшие способы репрезентации.

Текущая работа с крупными языковыми моделями имеет невероятную практическую ценность для людей. Кажется, некоторые люди называют это "началом конца" программного обеспечения. И, возможно, не только его. Поскольку теперь мы можем собрать программное обеспечение и все то, что было создано за последние 20-30 лет и интегрировать все это в жизнь очень реалистичным образом. У этого есть огромная ценность, но это не сильный искусственный интеллект. Это инструмент. Это такое же дополнение к опыту, как мобильный телефон. Но в какой-то момент может что-то возникнуть, и ИИ станет сверхразумным. Как если бы песочница во дворе спонтанно превратилась в ядерную боеголовку.

Теперь, когда вы спрашиваете языковую модель, она учит вас всему, что захотите. Вы задаете дополнительные вопросы, и если чего-то не понимаете, она осознает, что вы не поняли, и объясняет в чем дело. Большая часть энергии творческих людей уходит на то, чтобы понять, как взаимодействовать с технологиями. Теперь большая часть этой энергии высвободится.

В заключении хочу сказать, что сегодня мы утратили наше коллективное чувство оптимизма в отношении будущего. В некоторых случаях не без оснований. Но каждый из нас должен считать своим долгом вернуть это чувство. Я думаю, мы потеряли веру в то, что будущее может быть значительно лучше, чем нынешний мир. Единственный способ вернуть чувство оптимизма и движения вперед - это использовать технологии для создания изобилия. Это работает. Это долгосрочная устойчивая стратегия.

Если было интересно - ставьте лайк и подписывайтесь на мой телеграм-канал. И до скорых встреч, друзья!