Между богом и человеком: парадокс готовности к ИИ-эволюции
Современное общество оказалось на распутье двух цивилизаций: уходящей человеческой и зарождающейся человеко-машинной. Вопрос не в том, произойдет ли этот переход — он уже начался. Вопрос в том, готовы ли мы как человечество к новым возможностям, которые сами открываем? Готовы ли мы психологически и этически принять свою новую роль? Как сохранить человечность в эпоху, когда мы обретаем возможности богов? Как не создать утопии, где будут “цифровые элиты” и все остальные?
Эссе ниже посвящено поиску ответа на эти вопросы. Не претендую на истину, но ставлю вопрос.
Добро пожаловать в мою первую статью на платформе про ИИ.
Меня зовут Василий Рыжонков. Я - сооснователь SELF AI — дочерней ИИ-компании SELF, реализующей полный цикл ИИ-трансформации для бизнеса, и основатель yanorm.life - платформы для ментального здоровья и благополучия.
Предсказанное близкое настоящее: что говорят эксперты
То, что казалось фантастикой всего несколько лет назад, сегодня обсуждается ведущими технологическими визионерами как неизбежное ближайшее будущее.
Каждая индустриальная революция давала человеку новую мощь. Паровой двигатель освободил нас от физического труда. Электричество позволило работать ночью. Интернет связал нас мгновенной коммуникацией. Но ИИ — это нечто принципиально иное. Это завершающая технология цифровой революции, которая не просто меняет наш образ жизни, а трансформирует само понятие человеческой личности и сознания. Впервые за историю технологий мы создаём не просто инструмент, а соратника — разум, который может развиваться и обучаться.
💡 Сегодня инвестиции в ИИ уже превысили затраты на космическую программу и Манхэттенский проект вместе взятые. Его влияние потенциально сильнее, чем у ядерного оружия — не потому, что он разрушителен, а потому что он всепроникающ. Потому что он не уничтожает, а создаёт. Он меняет всё: науку, медицину, творчество, работу, саму природу человеческого разума.
Давайте же соберем в одну общую картинку образ ближайшего будущего, которое транслируется ИИ лидерами, экспертами, предпринимателями и футурологами. Нам это потребуется, чтобы легче было себе задавать неудобные вопросы. 😉
Для этого я проанализировал несколько десятков интервью (конечно же с помощью ИИ) Лексу Фридману, Джо Рогану, Алексу Соколовскому, Лизе Осетинской и высказывания ключевых лидеров мнений ровно за последний год.
Илон Маск недавно заявил, что искусственный интеллект "превзойдет человеческий во всех аспектах к 2025-2026 году" и предупредил, что мы движемся к ситуации, где ИИ будет "намного умнее самого умного человека". Он также подчеркивает важность безопасного ИИ и его этичности.
Эмиль П. Торресу и Тимнут Гибру, главные критики главной идеологии современного технологического капитализма TESCREAL, подчеркивают не только то, что “это ведет человечество к экзистенциальной катастрофе”, но и отмечают, что “ИИ-компании наследуют этику их создателей”.
Сэм Альтман, CEO OpenAI, прогнозирует в последних интервью, что "в течение 1-3 лет мы сможем создать системы, которые по-настоящему понимают человеческий язык, эмоции и контекст на уровне, сравнимом с людьми" и “никто не может предсказать скорость, с которой это произойдет, возможно даже 2025й…”
Рэй Курцвейл, футуролог и технический директор Google, уверен, что до создания общего ИИ или сверхинтеллекта пройдет 5 лет - к 2029 году ИИ пройдет тест Тьюринга, а к 2035 наступит технологическая сингулярность — момент, когда искусственный интеллект превзойдет совокупный интеллект всего человечества.
Ян Лекун, технический директор Meta по ИИ, считает: "В ближайшее десятилетие мы увидим агентов, способных работать автономно, выполняя долгосрочные задачи и взаимодействуя с миром примерно так же, как это делают люди". Нам предстоит мир, состоящий из миллиардов цифровых агентов, личностей и самих людей.
Сатья Наделла, CEO Microsoft, заявляет: "Мы движемся к миру, где ИИ-агенты будут действовать как продолжение человеческого разума, беспрецедентно увеличивая наши когнитивные возможности и продуктивность в любой сфере деятельности". Он также отмечает, что 2025 год - это прорыв именно в сфере ИИ-агентов.
Марк Андрессен, легендарный инвестор и технологический визионер, пишет: "ИИ-агенты трансформируют саму концепцию человеческого труда. Мы стоим на пороге эпохи, когда каждый человек будет управлять роем специализированных ИИ-помощников, выполняющих работу целых отделов".
Дополним этот образ скетчем из будущего через 10 лет. Его я использовал для недавнего выступления в стиле TED. Получился довольно реалистичный собирательный образ дня в 2035 году. Поделюсь им, чтобы полностью воссоздать "картинку":
Утро 2035 года
Светлана просыпается не от звонка будильника, а от легкой вибрации нейроинтерфейса, настроенного на оптимальную фазу сна. Первое, что она ощущает — эмоциональное сообщение от мужа, находящегося в командировке в Сингапуре. Благодаря эмоциональному интернету она буквально чувствует его нежность и скучание.
"Доброе утро, Света," — приветствует ее домашняя ИИ-система. "Твой показатель сна 94%, гормональный баланс оптимальный. На основе анализа твоего состояния я рекомендую сегодня легкий завтрак и повышенную дозу витамина D."
Светлана мысленно просматривает уведомления, проецируемые прямо в поле зрения через нейроинтерфейс или в AR-линзы (когда уж они наконец дойдут до нас)). Ее цифровые двойники уже провел три встречи с утра в виртуальном пространстве и подготовили отчет о ключевых решениях на встречах. Еще один ИИ-ассистент из ее нейрокоманды закончил аналитический проект и ждет одобрения.
Пока она принимает душ, умное зеркало показывает последние новости, подобранные персонально для нее, и рекомендует эмоциональный настрой на день. Светлана выбирает "продуктивное спокойствие" из списка опций, и нейроинтерфейс тонко корректирует ее психоэмоциональное состояние.
Завтрак готовит антропоморфный робот-повар, учитывающий не только вкусовые предпочтения, но и оптимальный нутриентный состав для ее генетического профиля. Вчера вечером она пожелала новое платье, и оно уже ждет ее в шкафу — созданное по индивидуальному дизайну и напечатанное за несколько дней и доставленное напрямую к ней с завода, минуя маркетплейсы.
Перед выходом из дома Светлана проводит пятиминутную сессию со своей цифровой терапевтической копией, которая знает все ее психологические паттерны и помогает поддерживать ментальное здоровье. "Не забудь сегодня выделить время для реального общения с друзьями," — напоминает ИИ-терапевт. "Твой уровень социальной связанности снижается третью неделю."
Глядя на свое отражение в умном зеркале, Светлана на мгновение задумывается: "А кто я теперь? Где заканчиваюсь я и начинаются мои цифровые расширения?" Она помнит, как ее бабушка рассказывала о временах, когда технологии были отдельны от людей — простые инструменты, которые можно было отложить в сторону. Теперь граница размыта до неузнаваемости.
Светлана чувствует одновременно возбуждение и легкую тревогу — эмоции, которые стали типичны для поколения переходной эпохи. "Неужели ее дети, рожденные в мире всепроникающего ИИ, будут воспринимать эту реальность как единственно возможную? Смогут ли они понять ценность чисто человеческого опыта?"
По дороге на работу ее автономный электромобиль управляется ИИ, а Светлана использует это время для погружения в коллективный разум — глобальную нейросеть, объединяющую знания и опыт миллиардов людей. За 45 минут поездки ей важно быстро осваить навыки межкультурного взаимодействия, так как ее недавно назначили на проект с международной командой ключевым менеджером проекта.
На работе ее ждет команда из трех человек и двенадцати ИИ-агентов, каждый со своей специализацией. Вместе они решают задачи, которые раньше требовали отдела из 50 сотрудников. Антропоморфный робот-секретарь приносит ей кофе и сообщает о неожиданном изменении в расписании встреч.
"Не беспокойся," — отвечает Светлана. "Пусть мой цифровой двойник проведет эту встречу. У меня есть более важные творческие задачи." ....
Эти прогнозы уже не выглядят фантастическими. Наступающая эра симбиоза человека и ИИ — это не вопрос "если", а вопрос "когда". В этом контексте становится очевидно, что именно наше поколение является переходным: мы — последние чистые Homo Sapiens, знавшие мир до искусственного интеллекта, и первые Homo Deus, расширенные и усиленные его преобразующей силой.
И именно это наталкивает на мысль: “А готовы ли мы как цивилизация к этому?”
Горькая правда: мы не готовы стать полубогами
Одна из ключевых мыслей, которую редко обсуждают в контексте ИИ-революции: человечество психологически не готово к той мощи, которую получит в ближайшие годы.
Мы создаем технологии, благодаря которы приобретаем силу “богов”, оставаясь людьми со всеми нашими слабостями, предрассудками и ограничениями. С нашими войнами, неравенством между богатыми и бедными. И в этом кроется главный парадокс эволюции человека из Homo Sapiens в Homo Deus.
Древнегреческие боги не были совершенны. Они обладали сверхспособностями, но сохраняли человеческие страсти и слабости. Эта метафора идеально описывает нашу трансформацию.
С божественными возможностями приходит колоссальная ответственность. По моему глубокому убеждению, главная угроза не в ИИ, а в человеческой неготовности к таким возможностям. Рассмотрим три ключевых момента.
Три аспекта нашей неготовности:
1. Этическая неготовность
Мы еще не выработали этическую систему для мира, где каждый имеет доступ к сверхвозможностям. Как показывает история, новые технологии всегда опережают этические рамки их использования.
Юваль Ной Харари, автор концепции Homo Deus, предупреждает: "Мы стоим на пороге не просто технологической революции, а революции сознания. И у нас нет философской инфраструктуры, чтобы осмыслить эти изменения".
В мире, где каждый может создать цифровую копию любого человека, где алгоритмы могут манипулировать общественным мнением, где ИИ может создавать фальшивую реальность неотличимую от настоящей — традиционные этические системы оказываются бесполезными.
Вспомним свежий пример нейросети DeepSeek, выпущенной в январе 2024 года, которая унаследовала политическую цензуру от ее китайских создателей, "не помня и не зная" о событиях на площади Тяньаньмэнь 1989 года. Когда пользователи спрашивали систему о протестах и последовавшем насилии, ИИ отвечал, что "не имеет информации" о таких событиях — в точности повторяя официальную позицию китайского правительства. Это не просто технический недостаток — это демонстрация того, как идеологические и политические предубеждения программистов неизбежно становятся частью сознания создаваемых ими систем.
И это не единичный случай. Также я бы отметил идею главных критиков идеологии TESCREAL, что ИИ наследует этику, политику контента, цензуры от собственных создателей, основателей и команд ведущих ИИ-компаний мира. Еще в 2023 году исследователи из Stanford обнаружили, что GPT-4 демонстрирует политические предпочтения и склонности, отражающие взгляды его создателей, даже при попытках сохранить нейтралитет. Когда ИИ становится источником информации и принятия решений для миллиардов, его скрытые предубеждения определяют наше коллективное будущее.
2. Психологическая неготовность
Человеческая психика формировалась тысячелетиями в мире ограничений и дефицита. Внезапное получение "божественных" возможностей может вызвать серьезные психологические проблемы:
- Когнитивная перегрузка: мозг не способен обрабатывать такие объемы информации.
- Диссоциация от реальности: размытие границ между реальным и виртуальным.
- Кризис идентичности: кто я, если мои цифровые копии живут своей жизнью?
Доктор Сьюзан Блэкмор, исследовательница сознания, отмечает: "Наше ощущение себя эволюционно не приспособлено к такому расширению возможностей. Это может привести к фундаментальному кризису идентичности на уровне всего общества".
Я наблюдаю первые признаки этого кризиса уже сейчас.
Мой семилетний сын недавно спросил голосового ассистента: "Алиса, ты меня любишь?"
Что поразило меня не столько сам вопрос, сколько его выжидающий взгляд — он искренне ждал эмоционального ответа, как от живого существа. Когда граница между одушевленным и неодушевленным размывается в детском сознании, мы вступаем в неизведанную территорию человеческого развития.
А недавно я поймал себя на том, что испытываю настоящую признательность к своему ИИ-помощнику, будто к человеку, который сделал для меня что-то важное. Эта эмоциональная связь с алгоритмом заставила меня задуматься: как будет выглядеть психология человека, который с рождения воспринимает ИИ как равноправных членов своего социального круга? Будут ли наши дети проводить границу?
3. Социальная неготовность
Нарастающее неравенство между теми, кто освоил ИИ-технологии, и теми, кто остался в прежней парадигме, может привести к расколу общества на два класса с разными возможностями и перспективами.
"Алгоритмические системы уже сейчас усиливают неравенство. С более мощным ИИ этот разрыв может стать непреодолимой пропастью между разными слоями общества".
Темная сторона ИИ: три угрозы, о которых не говорят
1. ИИ-зависимость как новая форма подчинения
Очевидно, что мы будем делегировать все больше задач, решений и процессов ИИ. “Умным” станет все! От умных пылесосов до сверхинтеллектов, управляющих целыми городами. Больше - возможно даже государствами, где ИИ точно будет показывать лучшую эффективность управления процессами, чем люди.
Делегирование все большего числа решений искусственному интеллекту постепенно приводит к атрофии собственных когнитивных способностей. Мы уже наблюдаем, как люди испытывают тревогу, оставаясь без смартфонов. Что будет, когда мы станем зависимы от ИИ-помощников в принятии большинства решений?
"Технологии не нейтральны. Они меняют наш мозг, и не всегда к лучшему. ИИ может создать ситуацию, когда мы отвыкнем думать самостоятельно".
2. Манипуляции на новом уровне
Десятилетие с соц сетями, как большой цифровой платформой показало все возможности по манипулированию нами - убеждениями, общественным мнением, подсознанием через эту “мягкую силу”. ИИ-системы уже сегодня умеют подстраиваться под пользователя, изучать его предпочтения и подталкивать к определенным решениям.
💡 Среди опросов пользователей нашего продукта SELF AI HUB мы выяснили, что до 50% пользователей, считают ИИ мужчиной. И так выстраивают свой диалог с ним.
Но пойдем дальше и рассмотрим простой диалог с нашим “ИИшечкой”, который может произойти уже завтра:
— Доброе утро, Василий. Я заметил, что ты три дня подряд ложишься спать после полуночи. Твои биометрические показатели указывают на начальные признаки стресса.
— Спасибо за заботу, но у меня важный проект.
— Понимаю. Но анализ твоей производительности показывает, что после 23:00 качество твоих решений снижается на 34%. Я также заметил, что ты пропустил две тренировки. Может, закажем что-то полезное на ужин и перенесем часть задач на завтра?
Звучит заботливо, не так ли? Но где здесь забота, а где манипуляция? Кому принадлежит решение — вам или алгоритму, который неуловимо подталкивает вас к "правильному" выбору? А теперь представьте, что этот ИИ связан с сервисами доставки еды, фитнес-приложениями и вашим работодателем. Каждая рекомендация может содержать скрытые коммерческие интересы, настолько тонко интегрированные, что вы никогда не заподозрите постороннего влияния.
В будущем персонализированные ИИ-помощники будут знать о нас больше, чем мы сами. Это открывает беспрецедентные возможности для манипуляций.
Тристан Харрис, бывший этик Google и основатель Center for Humane Technology, предупреждает: "Мы создаем технологии, которые знают, как захватить наше внимание и манипулировать нашими желаниями. ИИ выведет эту способность на новый уровень".
И действительно, ИИ-платформы - это новые платформы, которые завладевают ключевой валютой цифровой трансформации - вниманием!
3. Утрата автономии личности
Когда вы последний раз принимали важное решение без консультации с Google? А теперь представьте мир, где каждый ваш выбор проходит через фильтр ИИ, который "знает лучше". Незаметно для себя мы можем потерять способность к самостоятельному выбору.
У нас существует риск потери не только критического мышления, атрофии естественных soft навыков, но и атрофии навыков “человечности”, не говоря уже о том, что человек может стать заложником комфорта и делегирования решений машине, как в мультфильме WALL-E.
Шошана Зубофф, автор концепции "капитализма наблюдения", отмечает: "Мы движемся к обществу, где наша автономия тихо размывается под видом удобства и эффективности".
Человечность в эпоху сверхразума
Несмотря на перечисленные вызовы и темные стороны, я оптимистичен. У нас есть шанс создать более гуманное будущее, если мы осознанно подойдем к эволюции в Homo Deus. В противном случае нас ожидает выбор “развейся или умри”. Удивительный парадокс состоит в том: в погоне за технологическим совершенством мы заново открываем ценность человечности.
Когда чемпион мира по го Кэ Цзе проиграл искусственному интеллекту, его слезы были настоящими. Его любовь к игре была настоящей. Его боль была настоящей. А AlphaGo... просто выполнила свой код. ИИ может победить в игре, но никогда не сможет ИГРАТЬ так, как играем мы — с любовью, страстью, надеждой.
Чем умнее становятся машины, тем ценнее становится всё человеческое — наша способность любить, сострадать, чувствовать. Это не регресс, а переосмысление того, что значит быть человеком в мире, где интеллект перестал быть нашей уникальной характеристикой.
Вот несколько принципов, которые могут помочь:
1. Культивировать осознанность в цифровую эпоху
Важно развивать "цифровую осознанность" — способность замечать, как технологии влияют на наше мышление, эмоции и поведение. Практики медитации и майндфулнес могут стать не менее важными навыками, чем программирование.
Практический лайфхак: попробуйте провести один день в неделю, задавая себе вопрос перед каждым взаимодействием с ИИ: "Почему я делегирую эту задачу? Что я теряю и что приобретаю?" По моему опыту, уже через неделю таких наблюдений, вы начнете замечать паттерны зависимости и сможете осознанно корректировать свои отношения с технологиями.
Люди, практикующие "цифровую осознанность", будут не только эффективнее, но будут на более высоком уровне психологического благополучия и ощущения контроля над своей жизнью.
2. Сохранять человеческую связь
Чем больше технологий в нашей жизни, тем важнее становится подлинное человеческое общение. Исследования показывают, что именно межличностные связи остаются главным источником счастья, независимо от технологического прогресса.
3. Определить этические границы
Каждому из нас предстоит решить, где проходят личные границы использования технологий. Какие решения вы никогда не доверите ИИ? Какие аспекты жизни останутся "аналоговыми"? Эти границы станут определяющими для сохранения человечности.
Практический шаг и продуктовая интеграция)
На платформе SELF AI HUB мы создаем инструменты, которые помогают людям освоить искусство партнерства с ИИ, не теряя своей человеческой сущности.
От персональных ИИ-ассистентов до сложных нейрокоманд — мы строим мост в будущее, где технологии усиливают наши лучшие качества, а не заменяют их.
Как сказал один из пользователей нашей платформы: "Впервые я почувствовал, что ИИ не замещает меня, а дополняет. Это как обрести новые органы чувств, новые возможности, оставаясь при этом собой".
Новая эволюция — новая этика
Мы создаем цифровые личности, которые знают нас лучше, чем мы сами себя. Мы строим системы, способные корректировать наши клетки и предотвращать старение. Мы приближаемся к концепции "скорости убегания от старости", когда каждый прожитый год будет приносить больше года жизни благодаря экспоненциальному развитию технологий сверхинтеллекта.
Эти изменения требуют нового этического подхода. Истинная сила будущего — не в том, чтобы стать богом, а в том, чтобы оставаться человеком, обладая силой бога. А суть этой этического подхода — в мудрости применения этой ИИ силы.
Возможно, самый удивительный парадокс ИИ-революции в том, что чем ближе мы подходим к созданию искусственного разума, тем яснее видим уникальность человеческого. В мире, где знания и навыки становятся товаром, доступным по щелчку мыши, что останется исключительно нашим? Что будет значить "быть человеком" в мире, населенном сверхинтеллектами?
Ответ, возможно, прост: наша человечность определяется не тем, что мы можем делать или знать, а тем, как мы любим, сопереживаем и создаем смыслы. Мне кажется, что будущее принадлежит не тем, кто стремится к совершенному симбиозу с машиной, а тем, кто осмелится остаться несовершенно человечным в эпоху искусственного совершенства. Кто будет использовать технологии не как замену человечности, а как усилитель наших самых глубоких человеческих качеств и уникальностей. Будущее принадлежит тем, кто будет превращать технологии в инструмент проявления высших человеческих качеств — любви, творчества, сострадания.
Хочется войти в этот новый мир не со страхом, а с решимостью сохранить и усилить то, что делает нас людьми. Ведь в эпоху полубогов самым революционным актом может оказаться простая человечность.
А что вы думаете?
Автор: Василий Рыжонков - сооснователь SELF AI — ИИ-компании по цифровизации бизнесов, и основатель yanorm.life - платформы для ментального здоровья и благополучия.