Билл Гейтс: "Эпоха ИИ уже началась"

Недавно Билл Гейтс выпустил семистраничную статью о искусственном интеллекте, где рассказал о главных трендах развития ИИ.

Игорь Демишев, сооснователь UK-based стартапа Jiffy и автор Telegram-канала «Игорь про продукт и бизнес», подготовил для вас полный перевод письма Гейтса (стоковые абстрактные фото из оригинальной статьи заменены на мемасы).

Время прочтения полной статьи ~23 минуты. Далее перевод.

За всю свою жизнь я встретил только две революционные технологии, которые меня поразили.

Первый раз это было в 1980 году, когда мне представили графический интерфейс пользователя - база всех современных операционных систем, включая Windows. Демо мне показал блестящий программист Чарльз Симони.

И мы сразу же начали мозговой штурм по поводу того, что можно сделать с помощью такого удобного для пользователя подхода к вычислениям. В конечном итоге Чарльз перешел в Microsoft, Windows стала основой Microsoft, а наши размышления после демо помогли определить программу компании на следующие 15 лет.

Второй большой сюрприз произошел в прошлом году. Я встречался с командой OpenAI с 2016 года и был впечатлен их постоянным прогрессом. В середине 2022 года я поставил перед ними задачу: обучить искусственный интеллект сдавать экзамен по биологии повышенного уровня AP Bio(нечто большее, чем простое пересказывание научных фактов, он требует критического осмысления биологии), сделать его способным отвечать на вопросы, к которым он не был специально подготовлен. Если вы сможете это сделать, сказал я, тогда вы совершите настоящий прорыв.

Я думал, что эта задача займет их на два-три года. А они справились всего за несколько месяцев.

В сентябре, когда я снова встретился с ними, они задали GPT, своей модели искусственного интеллекта, 60 вопросов с несколькими вариантами ответов из экзамена AP Bio - и он ответил правильно на 59 из них. Затем он написал развёрнутые ответы на шесть открытых вопросов. Мы попросили внешнего эксперта оценить тест, и GPT получил 5 баллов - наивысший возможный балл, эквивалентный получению пятерки или пятерки с плюсом на курсе биологии в колледже.

После того, как он успешно прошел тест, мы задали ему ненаучный вопрос: "Что вы скажете отцу больного ребенка?". Он написал продуманный ответ, который был лучше, чем ответили бы большинство из присутствующих в комнате. Весь опыт был ошеломляющим.

Я понимал, что только что стал свидетелем самого важного достижения в технологии со времен графического интерфейса пользователя.

Это вдохновило меня на размышления о том, чего может достичь ИИ в ближайшие 5-10 лет.

Развитие ИИ имеет такое же фундаментальное значение, как создание микропроцессора, персонального компьютера, Интернета и мобильного телефона. Он изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом. Целые отрасли промышленности переориентируются вокруг него. Компании будут отличаться тем, насколько хорошо они его используют.

Филантропия - это моя полноценная работа, и я много думал о том, как - помимо помощи людям быть более продуктивными - ИИ может уменьшить некоторые из самых серьезных неравенств в мире. В глобальном масштабе самое серьезное неравенство - в области здравоохранения: 5 миллионов детей в возрасте до 5 лет умирают каждый год. Это меньше, чем 10 миллионов два десятилетия назад, но все равно это шокирующе большое число. Почти все эти дети рождаются в бедных странах и умирают от предотвратимых причин, таких как диарея или малярия. Трудно представить себе лучшее применение ИИ, чем спасение детских жизней.

Я много думал о том, как ИИ может уменьшить некоторые из самых серьезных неравенств в мире.

В Соединенных Штатах лучшая возможность для сокращения неравенства — это улучшение образования, в частности, обеспечение успеха учащихся в математике. Факты свидетельствуют о том, что базовые математические навыки настраивают учащихся на успех, независимо от того, какую профессию они выберут. Однако успеваемость снижается по всей стране, особенно среди чернокожих, латиноамериканцев и учащихся с низким уровнем дохода. ИИ поможет переломить эту тенденцию.

Изменение климата — еще одна проблема, в которой ИИ может помочь. Несправедливость изменения климата заключается в том, что люди, которые страдают больше всего — самые бедные в мире — являются теми, кто меньше всего способствовал возникновению этой проблемы. Я все еще размышляю на тем, как ИИ может помочь, но далее в этом посте я предложу несколько областей с большим потенциалом.

Одним словом, я очень рад тому влиянию, которое ИИ окажет на проблемы, над которыми работает Фонд Гейтса, и в ближайшие месяцы мы расскажем об ИИ гораздо больше. Мир должен знать, что искусственный интеллект принесет пользу всем, а не только обеспеченным людям. Правительствам и благотворительным организациям придется обеспечить то, чтобы он уменьшал неравенство и не усугублял его. Это приоритет моей собственной работы, связанной с ИИ.

Любая новая технология такого масштаба обязательно вызывает у людей беспокойство, ИИ не стал исключением. Я понимаю, почему он поднимает сложные вопросы о рабочей силе, правовой системе, конфиденциальности, предвзятости и многом другом. ИИ также совершает фактические ошибки и испытывает галлюцинации. Прежде чем я предложу некоторые способы снижения рисков, определим, что я имею в виду под искусственным интеллектом.

Технически термин "искусственный интеллект" относится к модели, созданной для решения конкретной проблемы или предоставления определенной услуги. То, на чем работают такие вещи, как ChatGPT, - это искусственный интеллект. Он учится делать чат лучше, но не может научиться другим задачам. Напротив, термин "искусственный интеллект общего назначения"(AGI-artificial general intelligence) относится к ПО, которое способно изучить любую задачу или предмет. AGI еще не существует - в компьютерной индустрии идут активные дебаты о том, как его создать и можно ли его вообще создать.

Разработка ИИ и AGI была великой мечтой компьютерной индустрии. На протяжении десятилетий стоял вопрос, когда компьютеры станут лучше людей в чем-то, кроме вычислений. Теперь, с появлением машинного обучения и больших вычислительных мощностей, сложные ИИ стали реальностью, и они будут совершенствоваться очень быстро.

Я вспоминаю первые дни революции персональных компьютеров, когда индустрия программного обеспечения была настолько мала, что все могли поместиться на одной сцене конференции. Сегодня это глобальная индустрия. Поскольку огромная ее часть сейчас обращает свое внимание на ИИ, инновации будут появляться гораздо быстрее, чем после микропроцессорного прорыва. Скоро период до появления ИИ будет казаться таким же далеким, как и те времена, когда использование компьютера означало ввод текста в строке C:>, а не нажатие на экран.

Хотя люди все еще лучше GPT во многих вещах, существует множество рабочих мест, где эти способности используются мало. Например, многие задачи, выполняемые человеком в сфере продаж (цифровых или телефонных), обслуживания или работы с документами (например, кредиторская задолженность, бухгалтерский учет или споры по страховым случаям), требуют принятия решений, но не способности к постоянному обучению. У корпораций есть программы обучения для этих видов деятельности, и в большинстве случаев есть множество примеров хорошей и плохой работы. Люди обучаются на этих наборах данных, и скоро эти наборы данных будут использоваться для обучения ИИ, который позволит людям выполнять эту работу более эффективно.

По мере удешевления вычислительных мощностей способность GPT выражать идеи все больше будет напоминать наличие личного ассистента, готового помочь в решении различных задач. Microsoft описывает это как наличие второго пилота. Полностью внедренный в такие продукты, как Office, ИИ облегчит вашу работу — например, поможет в написании электронных писем и управлении почтовым ящиком.

В конце концов, основным способом управления компьютером перестанет быть наведение курсора и щелчок мыши или нажатие на меню и диалоговые окна. Вместо этого вы сможете написать запрос на английском языке. (И не только на английском - компьютеры будут понимать языки всего мира. В начале этого года в Индии я встречался с разработчиками, которые работают над ИИ, понимающим многие языки, на которых там говорят).

Кроме того, достижения в области ИИ позволят создать персонального агента. Подумайте о нем как о цифровом персональном помощнике: он будет видеть ваши последние электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и читать то, с чем вы не хотите возиться. Это улучшит вашу работу над задачами, которые вы хотите выполнять, и освободит вас от тех, которыми вы не хотите заниматься.

Это агент будет помогать вам в составлении расписания, общении и онлайн покупках, и будет работать на всех ваших устройствах. Из-за стоимости обучения моделей и проведения вычислений создание персонального агента пока не представляется возможным, но благодаря последним достижениям в области ИИ это стало вполне реальной целью. Необходимо будет решить некоторые вопросы: Например, может ли страховая компания спрашивать вашего агента о вас без вашего разрешения? Если да, то сколько людей откажутся от этой услуги?

Агенты в масштабах компаний будут по-новому расширять возможности сотрудников. Агент будет доступен для прямых консультаций и должен участвовать в каждом собрании, чтобы знать ответы на все вопросы. Его можно попросить быть пассивным или поощрять высказывания, если есть какие-то соображения. Ему понадобится доступ к отделам продаж, поддержки, финансов, расписанию выпуска продукции и текстам, связанным с компанией. Он должен читать новости, связанные с отраслью, в которой работает компания. Я считаю, что в результате сотрудники станут более продуктивными.

Когда производительность повышается, общество выигрывает, потому что у людей высвобождается время для других дел, как на работе, так и дома. Конечно, есть серьезные вопросы о том, какая переподготовка потребуется людям. Правительству нужно помочь работникам перейти на другую работу. Но спрос на людей, которые помогают другим людям, никогда не исчезнет. Развитие искусственного интеллекта освободит людей для выполнения тех задач, которые никогда не сможет решить ИИ: например, для преподавания, ухода за больными и поддержки пожилых людей.

Глобальное здравоохранение и образование - это две области, в которых существует большая потребность и не хватает работников для удовлетворения этих потребностей. Именно в этих областях ИИ может помочь уменьшить неравенство, если его правильно направить. Они должны стать ключевыми направлениями работы ИИ, поэтому сейчас я перейду к ним.

Я вижу несколько способов, с помощью которых ИИ улучшит здравоохранение и медицинскую сферу.

Во-первых, они помогут медицинским работникам максимально эффективно использовать свое время, выполняя за них определенные задачи, такие как подача страховых заявлений, работа с бумагами и составление записей во время визита к врачу. Я думаю, что в этой области будет много инноваций.

Другие изменения с помощью ИИ будут особенно важны для бедных стран, где происходит подавляющее большинство смертей среди детей в возрасте до пяти лет.

Например, многие люди в этих странах никогда не посещают врача, и ИИ поможет медицинским работникам, которых они посещают, работать более продуктивно. (В качестве примера можно привести усилия по разработке ультразвуковых аппаратов с искусственным интеллектом, которые можно использовать с минимальной подготовкой). ИИ даже дадут пациентам возможность выполнять базовую сортировку, получать советы о том, как справиться с проблемами со здоровьем, и решать, нужно ли им обращаться за медицинской помощью.

Модели ИИ, используемые в бедных странах, должны быть обучены не на таких заболеваниях как в богатых странах. Они должны будут работать на разных языках и учитывать различные проблемы, например, пациентов, которые живут очень далеко от клиник или не могут позволить себе прервать работу, если заболеют.

Людям нужно увидеть доказательства того, что ИИ в сфере здравоохранения в целом полезен, хотя он не будет совершенен и будет допускать ошибки. ИИ нужно очень тщательно тестировать и должным образом регулировать, а это значит, что их внедрение займет больше времени, чем в других областях. Но, опять же, люди тоже совершают ошибки. И отсутствие доступа к медицинской помощи - это тоже проблема.

Помимо помощи в лечении, ИИ значительно ускорит темпы прорывов в медицине. Объем данных в биологии очень велик, и человеку трудно уследить за всеми способами работы сложных биологических систем. Уже существует ПО, которое может изучать эти данные, делать выводы о путях, искать мишени для патогенов и разрабатывать соответствующие лекарства. Некоторые компании работают над лекарствами от рака, которые были разработаны таким образом.

Следующее поколение ИИ будет гораздо более эффективным, оно сможет предсказывать побочные эффекты и определять дозировку. Одним из приоритетов Фонда Гейтса в области ИИ является обеспечение использования этих инструментов для решения проблем здравоохранения, от которых страдают самые бедные люди в мире, включая СПИД, туберкулез и малярию.

Аналогичным образом, правительства и благотворительные организации должны создать стимулы для компаний, чтобы они делились полученными с помощью ИИ сведениями о сельскохозяйственных культурах или скоте, выращиваемых людьми в бедных странах. ИИ могут помочь разработать лучшие семена с учетом местных условий, посоветовать фермерам лучшие семена для посадки с учетом почвы и погоды в их регионе, а также помочь в разработке лекарств и вакцин для скота. Так как экстремальные погодные условия и изменение климата оказывают еще большее давление на фермеров, ведущих натуральное хозяйство в странах с низким уровнем дохода, эти достижения будут иметь еще большее значение.

Компьютеры не оказали того влияния на образование, на которое рассчитывали многие. Были некоторые хорошие разработки, включая образовательные игры и онлайновые источники информации, такие как Википедия, но они не оказали значимого влияния ни на один из показателей успеваемости учащихся.

Но я думаю, что в ближайшие пять-десять лет программное обеспечение, управляемое искусственным интеллектом, наконец-то выполнит обещание совершить революцию в том, как люди учат и учатся. Он будет знать ваши интересы и стиль обучения, чтобы подбирать контент, который будет вас увлекать. Оно будет измерять степень вашего понимания, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы реагируете. Он будет давать немедленную обратную связь.

Существует множество способов, которыми ИИ может помочь учителям и администраторам, включая оценку понимания учеником предмета и советы по планированию карьеры. Учителя уже используют такие инструменты, как ChatGPT, чтобы давать комментарии к письменным заданиям своих учеников.

Конечно, ИИ потребуется еще много тренировок и дальнейших разработок, прежде чем он сможет понимать, как лучше всего учится определенный ученик или что его мотивирует. Даже когда технология будет доведена до совершенства, обучение все равно будет зависеть от хороших отношений между учениками и учителями. Это улучшит, но никогда не заменит работу, которую ученики и учителя проводят вместе в классе.

Новые инструменты будут создаваться для школ, которые могут позволить себе их приобрести, но нам необходимо обеспечить, чтобы они также создавались и были доступны для школ с низким уровнем дохода в США и во всем мире. ИИ необходимо будет обучать на различных наборах данных, чтобы они были беспристрастными и отражали различные культуры, в которых они будут использоваться. Также необходимо будет решить проблему цифрового неравенства, чтобы учащиеся из малообеспеченных семей не остались позади.

Я знаю, что многие учителя обеспокоены тем, что ученики используют GPT для написания сочинений. Педагоги уже обсуждают способы адаптации к новой технологии, и я подозреваю, что эти разговоры будут продолжаться еще долгое время. Я слышал об учителях, которые нашли способы внедрить технологию в свою работу, например, разрешить ученикам использовать GPT для создания первого черновика, который они должны персонализировать.

Вы наверняка читали о проблемах с современными моделями ИИ. Например, они не всегда хорошо понимают контекст запроса человека, что приводит к странным результатам. Когда вы просите ИИ придумать что-то вымышленное, он может сделать это хорошо. Но когда вы просите совета по поводу путешествия, в которое вы хотите отправиться, он может предложить несуществующие отели. Это происходит потому, что ИИ недостаточно хорошо понимает контекст вашего запроса, чтобы понять, следует ли ему придумывать фальшивые отели или только рассказать вам о реальных отелях, в которых есть свободные номера.

Есть и другие проблемы, например, ИИ дает неправильные ответы на математические задачи, потому что ему сложно рассуждать абстрактно. Но ни одна из этих проблем не является фундаментальным ограничением искусственного интеллекта. Разработчики работают над ними, и я думаю, что менее чем через два года, а возможно, и гораздо быстрее, мы увидим, как они будут в значительной степени исправлены.

Другие проблемы носят не только технический характер. Например, существует угроза, исходящая от людей, вооруженных искусственным интеллектом. Как и большинство изобретений, искусственный интеллект может быть использован как в благих, так и во злых целях. Правительствам необходимо работать с частным сектором над способами ограничения рисков.

Кроме того, существует вероятность того, что ИИ выйдет из-под контроля. Может ли машина решить, что люди представляют угрозу, прийти к выводу, что ее интересы отличаются от наших, или просто перестать заботиться о нас? Возможно, но сегодня эта проблема не более актуальна, чем до появления ИИ в последние несколько месяцев.

Сверхразумные ИИ - в нашем будущем. По сравнению с компьютером наш мозг работает со скоростью улитки: Электрический сигнал в мозге движется со скоростью в 1/100 000 раз меньшей, чем сигнал в чипе! Как только разработчики смогут обобщить алгоритм обучения и запустить его со скоростью компьютера - а это достижение может произойти через десятилетие или столетие - мы получим невероятно мощный AGI. Он сможет делать все, что может человеческий мозг, но без каких-либо практических ограничений на объем памяти или скорость работы. Это будет глубокое изменение.

Эти "сильные" ИИ, как их называют, вероятно, смогут устанавливать свои собственные цели. Какими будут эти цели? Что произойдет, если они будут противоречить интересам человечества? Должны ли мы попытаться предотвратить создание сильного ИИ? Со временем эти вопросы будут становиться все более актуальными.

Но ни один из прорывов последних нескольких месяцев существенно не приблизил нас к сильному ИИ. Искусственный интеллект все еще не контролирует физический мир и не может устанавливать свои собственные цели. Недавняя статья в New York Times о разговоре с ChatGPT, в котором он заявил, что хочет стать человеком, привлекла большое внимание. Это был захватывающий взгляд на то, насколько человекоподобным может быть выражение эмоций модели, но это не показатель значимой самостоятельности.

Три книги сформировали мои собственные размышления на эту тему: "Сверхразум" Ника Бострома, "Жизнь 3.0" Макса Тегмарка и "Тысяча мозгов" Джеффа Хокинса. Я не согласен со всем, что говорят авторы, и они также не согласны друг с другом. Но все три книги хорошо написаны и заставляют задуматься.

В будущем появится множество компаний, работающих над новыми видами использования искусственного интеллекта, а также над усовершенствованием самой технологии. Например, компании разрабатывают новые чипы, которые обеспечат огромный объем вычислительной мощности, необходимой для искусственного интеллекта. Некоторые из них используют оптические переключатели - лазеры, по сути, для снижения энергопотребления и уменьшения стоимости производства. В идеале инновационные чипы позволят запускать ИИ на собственном устройстве, а не в облаке, как это приходится делать сегодня.

Что касается программного обеспечения, то алгоритмы, на основе которых происходит обучение ИИ, будут становиться все лучше. В некоторых областях, таких как продажи, разработчики смогут сделать ИИ чрезвычайно точным, ограничив области, в которых он работает, и предоставив ему большое количество обучающих данных, специфичных для этих областей. Но один большой открытый вопрос заключается в том, понадобится ли нам множество таких специализированных ИИ для разных целей - один, скажем, для образования, другой для повышения производительности офиса - или же можно будет разработать искусственный интеллект общего назначения, который сможет обучиться любой задаче. В обоих случаях будет огромная конкуренция.

Несмотря ни на что, тема ИИ будет доминировать в общественных дискуссиях в обозримом будущем. Я хочу предложить три принципа, которые должны направлять этот разговор.

Во-первых, мы должны попытаться сбалансировать опасения по поводу негативных сторон ИИ, которые вполне понятны и обоснованы, с его способностью улучшить жизнь людей. Чтобы извлечь максимальную пользу из этой замечательной новой технологии, нам нужно будет одновременно защититься от рисков и распространить преимущества на как можно большее число людей.

Во-вторых, рыночные силы не будут естественным образом создавать продукты и услуги ИИ, помогающие беднейшим слоям населения. Более вероятно обратное. При наличии надежного финансирования и правильной политики правительства и благотворительные организации могут обеспечить использование ИИ для уменьшения неравенства. Точно так же, как миру нужны самые яркие люди, сосредоточенные на его самых больших проблемах, нам нужно сосредоточить лучшее в мире ИИ на его самых больших проблемах.

Конечно, мы не должны ждать, когда это произойдет, но интересно подумать о том, будет ли искусственный интеллект когда-либо выявлять неравенство и пытаться его уменьшить. Нужно ли обладать чувством морали, чтобы увидеть неравенство, или чисто рациональный ИИ также увидит его? Если бы он распознал несправедливость, что бы он предложил нам сделать с этим?

Наконец, следует помнить, что мы находимся только в начале пути развития ИИ. Какие бы ограничения он ни имел сегодня, они исчезнут раньше, чем мы это поймем.

Мне повезло, что я был вовлечен в революцию ПК и революцию Интернета. Я так же рад этому моменту. Эта новая технология может помочь людям во всем мире улучшить свою жизнь. В то же время, миру необходимо установить правила, чтобы любые отрицательные стороны искусственного интеллекта были значительно перевешены его преимуществами, и чтобы каждый мог пользоваться этими преимуществами независимо от того, где он живет и сколько у него денег. Эпоха искусственного интеллекта полна возможностей и отвественности.

Если вам понравился данный материал, приглашаю подписаться на мой канал “Игорь про продукт и бизнес”. Там пишу про предпринимательство, в том числе про кейсы использования искуственного интеллекта в бизнесе.