ИИ на распутье: спасение или угроза для человечества?

Представьте себе: систему искусственного интеллекта, способную за секунду контролировать терабайты климатических данных и предложить оптимальное решение по уменьшению панорамы. В то же время другая система, использующая определенные алгоритмы, разрабатывает способы максимально эффективного распространения информации перед выбором. Один и тот же инструмент — кардинально разные последствия.

Когда я размышляю о современном ИИ, невольно вспоминается древнегреческий бог Янус с двумя лицами: один работает в светлом будущем, другой — в бездну угрозы. Мы наступаем в переломный момент истории, когда созданные нами технологии уже не просто инструменты — они становятся лидерами в обеспечении принятия вызовов или поиска новых проблем.

Искусственный интеллект сегодня — это не абстрактная фраза из научной фантастики. Это особая система, которая уже работает в сфере медицинской диагностики, помогает в изменении климата, оптимизирует энергопотребление городов и даже пишет тексты, которые представляют собой сложную схему, созданную людьми. Но эта же технология может быть использована для массового уничтожения, создания автономного оружия или манипулирования общественным мнением в беспрецедентных масштабах.

Почему вопрос «в чьих руках появляется ИИ» становится важным значением? Впервые в истории мы создаем препарат, который может умножить как наши лучшие, так и более глубокие качества.

Возьмем здравоохранение. ИИ-системы сегодня уже демонстрируют удивительную точность в диагностике методов, превосходящую возможности опытных онкологов. Алгоритмы помощи в разработке новых лекарств ускоряют процесс в десятки раз. В руках эти гуманистически настроенные разработки технологий способны демократизировать доступ к качественной медицине, особенно в регионах с нехваткой врачей.

Но представьте тот же потенциал в руках корпораций, которые ориентированы исключительно на прибыль. Сценарий, в котором передовые медицинские ИИ-решения доступны только богатым, где алгоритмы оптимизируют лечение не ради пациента, а ради снижения затрат страховых компаний — не просто вероятен, а уже начинает корректироваться в некоторых странах.

Я заметил интересную закономерность — чем мощнее становится ИИ, тем острее встает вопрос: кто будет иметь к нему доступ? Мы мечтаем о демократизации знаний, но рискуем добиться их беспрецедентной монополизации.

Современные языковые модели и генеративные ИИ, например, требуют для своего создания огромных вычислительных ресурсов. Это автоматически ограничивает круг игроков, способных разработать передовые ИИ-системы. Сегодня это в основном крупные технологические корпорации и правительства стран с развитой цифровой экономикой.

Что это значит? В мире, где алгоритмы принимают все больше решений, влияющих на нашу жизнь — от кредитного скоринга до рекомендаций по трудоустройству — контроль над ИИ становится формой власти. И эта власть сосредоточена в руках узкого круга элит.

Я вспоминаю слова исследователя этики ИИ Тимниты Гебру: «Вопрос не в том, откровенно умен ИИ, а в том, кто контролирует его интеллект».

При этом потенциал ИИ для решения вызовов приводит к колоссальным последствиям. Возьмем три ключевые области:

Климатическая кризисная ситуация . ИИ-системы уже помогают оптимизировать энергосети, прогнозировать экстремальные погодные явления и разрабатывать новые материалы для устойчивой энергетики. Google DeepMind добился 20% экономии энергии в центрах обработки данных благодаря своим алгоритмам. Настоящий прорыв может произойти, когда подобные технологии начнут применяться в масштабах целых городов и стран.

Продовольственная безопасность . Умные алгоритмы повышают урожайность, минимизируя при этом использование воды и пестицидов. «Точное земледелие» с использованием ИИ и датчиков уже сокращает потребление воды на 30-50% при сохранении или даже увеличении объемов производства. В мире, где каждый девятый человек голодает, эти технологии могут стать спасением.

Пандемии и здравоохранение . ИИ BlueDot обнаружил вспышку COVID-19 за неделю до официального объявления ВОЗ. Представьте себе, сколько жизней можно было бы спасти при более ранних запросах. Системы предсказания структурных белков, такие как AlphaFold, революционизируют разработку лекарств и вакцин.

Но здесь мы возвращаемся к нашей центральной дилемме: даже для решения этих благородных задач ИИ требует данных — больших данных. А данные — это новая нефть, и они часто проезжают мимо, поднимая серьезные этические вопросы.

Мы наблюдаем растущее противоречие: чем больше мы предполагаем на ИИ в решении сложных проблем, тем более уязвимыми становятся перед его мощными злоупотреблениями.

В сфере безопасности алгоритмы прогнозирования выбросов, например, уже являются факторами, которые могут усилить любые социальные предубеждения. В некоторых городах США системы предиктивного полицирования привели к непропорциональному наблюдению за районами с преобладанием этнических меньшинств, создают порочный круг: больше наблюдения — больше зафиксированных правонарушений — еще более усиленное наблюдение.

Не менее тревожная ситуация с автономным оружием. По данным Кампании против роботов-убийц, более 30 стран разрабатывают военные системы с различной степенью автономности. Гонка вооружений в ИИ напоминает ядерную гонку, но имеет одно ключевое отличие: для создания области ИИ-оружия не требуются редкие материалы или огромные заводы. Код может быть написан небольшими людьми.

Мы часто думаем о техническом прогрессе с общественным благом. История учит нас: технологии сами по себе нейтральны, а их влияние определяется тем, как и с какими лицами они применяются.

Международное сообщество только начинает осознавать необходимость принятия правил игры в сфере II. Европейский Союз с его Законом об искусственном интеллекте стал пионером комплексного регулирования, введения градации рисков и соблюдения требований к системам искусственного интеллекта. Китай пошел по этому пути, сосредоточившись на контроле над этими алгоритмами и используя клинические данные. США соблюдают добровольные отраслевые стандарты и принципы.

Но достаточно ли этого? Я сомневаюсь. Технологии развиваются быстрее, чем регуляторы корректируют адаптацию. Фрагмент, подходящий к регулированию, создает «регуляторный арбитраж», когда компании перемещают рискованные ИИ-исследования в юрисдикции с более мягкими правилами.

Возможно, нам стоит пересмотреть сам подход к развитию ИИ. Вместо технократических моделей, где решения принимаются узким кругом экспертов и бизнес-лидеров, можно создать систему коллективного управления.

Интересно, что некоторые проекты уже движутся в этом направлении. Инициативы открытого исходного кода в области ИИ, такие как Hugging Face или EleutherAI, реализуют альтернативную модель, где технологии развиваются сообществами, а не закрытыми корпорациями. Это не решает всех проблем, но создает более прозрачную экосистему с распределенным контролем.

Другой обнадеживающий тренд — растущее число проектов ИИ, ориентированных на общественное благо. От алгоритма оптимизации распределения донорских органов до систем раннего реагирования на голод — эти примеры показывают, что альтруистическое применение ИИ не только возможно, но и эффективно.

В конечном счете, вопрос использования ИИ для решения проблем, возникающих или превращающих его в эксплуатацию инструмента, — это вопрос наших коллективных затрат и затрат.

Технологии ИИ усиливают явления — как позитивные, так и негативные. В обществах со значительными демократическими институтами и культурой прав человека II, вероятно, будет рост в качестве инструмента расширения человеческих возможностей. В авторитарном оборудовании те же технологии могут усилить контроль и подавление.

Возможно, самый важный вопрос не в том, кто создаст самый значимый ИИ, а в том, сможем ли мы выработать глобальный консенсус относительно этих ограничений его использования. Сможем ли мы, как глобальное сообщество, создать систему управления, которая будет способствовать тому, что выгоды от ИИ будут восстанавливаться справедливо, а риски — минимизироваться?

И вот о чем я думаю: что если главная угроза не в том, что ИИ станет слишком человекоподобным, а в том, что мы, адаптируясь к миру ИИ, станем слишком похожими на машины — конкурентными, управляемыми, консервативными? Может быть, сохранение нашей человечности в эпоху искусственного интеллекта — это и есть тот самый вызов, который нам предстоит принять?

А что вы думаете — способны ли мы направить мощь ИИ на благо всего человечества, или технологическая активация этого инструмента, доступного лишь избранным?