Хватит очеловечивать LLM: почему ChatGPT никогда не станет живым разумом
Хочу высказать непопулярное, но технически честное мнение о том, что мы сегодня называем искусственным интеллектом, и почему это на самом деле совсем не «интеллект».
1. Пластичность против заморозки
Главное отличие биологического мозга - он пластичен.
Нейросеть в голове человека, собаки или даже дождевого червя постоянно живая: она меняется каждую секунду, перестраивает синапсы, адаптируется к новой среде прямо на лету.
Наш хваленый ИИ так делать не умеет. У него есть две строго разделенные фазы: обучение и инференс (работа). На этапе обучения ему скармливают петабайты данных, после чего веса модели «замораживаются». Когда вы открываете чат и общаетесь с моделью, ее внутренняя структура не меняется ни на йоту. Она не учится на вашем разговоре она просто крутит готовые математические коэффициенты.
2. Калькулятор слов и иллюзия вежливости
То, чем мы пользуемся - это умный калькулятор для текста.
Модель натренировали на терабайтах данных находить скрытые закономерности.
Когда вы пишете ей «Привет», она отвечает «Здравствуйте! Чем могу помочь?» не из вежливости.
Для нее это такое же уравнение, как 3 + 3 = 6.
По теории вероятностей после определенного токена статистически чаще всего идет именно такой ответ. За этим нет понимания сути, контекста бытия или эмоции - только сухая статистика и подбор наиболее вероятного продолжения строки.
3. Почему живому мозгу нужно меньше данных
Ребенку достаточно упасть пару раз, чтобы понять механику ходьбы и гравитацию. Нейросети нужно скормить десятки тысяч видеозаписей падений, чтобы она просто начала на пиксельном уровне отличать ноги от пола.
Почему так? Биологический мозг ненавидит хаос. Есть теория, что мозг постоянно минимизирует ошибку предсказания и энтропию: когда мир вокруг предсказуем, нам комфортно. Когда начинается хаос, мозг моментально меняет связи, чтобы этот раздражитель устранить. В известном эксперименте живые нейроны в чашке Петри научились отбивать шарик в аркадной игре «Понг» буквально за считанные минуты. Почему? Ученые подавали хаотичный, раздражающий импульс каждый раз, когда клетка пропускала мяч. Чтобы вернуть «тишину» и комфорт, нейроны сами перестроились в работающую схему. У них была прямая мотивация убрать боль.
4. Чего нет у кремния
У нейросетей нет биологических инстинктов, боли и стремления к внутреннему комфорту. Их «наказывают» математической функцией потерь при обучении, на что требуются миллионы повторений и тераватты энергии. Модель ничего не чувствует - она просто перемножает матрицы.
Не ищите в ИИ собеседника, друга или замену живому общению.
Это невероятно крутой, технологичный, но все еще автомат с газировкой: вы кидаете в щель 50 рублей (промпт) - механизм прокручивает шестеренки и выкатывает вам нужную банку (токены).
Пока у архитектур не появится непрерывной пластичности в реальном времени и собственной мотивации избегать ошибок, мы имеем дело с очень полезным, но принципиально мертвым справочником.
Больше наблюдений, тестов и мыслей о работе с моделями пишу у себя в Telegram-канале: