ChatGPT: как он на самом деле работает, простое объяснение, как для ребенка

Меня зовут Шеверев Дмитрий, я руководитель сервисов Leadball и Foxybot. Мы создаём умных ботов на базе ChatGPT для бизнеса, которые не просто общаются с клиентами, но и выполняют реальные бизнес-задачи. А также обозревают ИИ сервисы для продаж и маркетинга на моем ТГ-канале.

Чтобы использовать ChatGPT еще эффективнее, важно разобраться в его основном принципе работы.

В этой статье я отвечу на ключевые вопросы: как именно работает эта модель, понимает ли она смысл того, что говорит, и в чем ее главное отличие от человеческого мышления.

Продолжаю цикл статей, где простыми словами и на понятных аналогиях объясняю сложные вещи, связанные с искусственным интеллектом на простых аналогиях. Также рекомендую ознакомиться:

Итак, начнем.

Некоторые люди считают, что ChatGPT мыслит как человек. Они что-то спрашивают у него, видят осмысленные ответы и делают вывод, что машина понимает, о чем говорит. Но на самом деле GPT модели не думают, как человек, и не понимают смысл так, как это делаем мы.

Чтобы понять, как работает GPT, давайте сперва представим себе попугая.

Реальный попугай иногда повторяет слова или фразы, которые он слышал от людей. Иногда это звучит так, будто он понимает, что говорит. Но на самом деле попугай просто имитирует звуки человека. Он не знает, что означают слова, он не осознает смысл того, что произносит.

Попугай говорит "Попка Дурак!" не потому, что понимает, что это значит, а потому что он запомнил, что после этого "звука" его похвалили и покормили.

Точно так же ChatGPT не понимает смысл слов. Если коротко, он просто угадывает, какое слово с большей вероятностью должно следовать за другим. Это как если бы попугай знал, что после слова "Привет!" люди часто говорят "Как дела?". ChatGPT не знает, что "Привет!" и "Как дела?" — это приветствие и вопрос о состоянии. Он просто выбрал эти слова, потому что заметил, что они часто идут друг за другом.

Когда мы общаемся с ChatGPT, он может создавать впечатление, что он понимает нас. Это связано с тем, что он очень хорошо "научился" подбирать слова так, чтобы они звучали осмысленно. Но это всего лишь иллюзия. GPT модели не обладают сознанием, они не понимает контекст так, как это делает человек.

Представьте, что вы говорите с "попугаем", которому 100 лет и за свою жизнь он слышал много разговоров людей. И не просто слышал, он все эти разговоры "запоминал".

Этот попугай скажет: "Как дела?", и это будет выглядеть осмысленным, особенно если это совпадает с ситуацией. Но попугай не осознает, что он делает — он просто повторяет звуки, которые он слышал раньше.

Всё, что делает ChatGPT, — это угадывает следующее слово, основываясь на вероятностях. И все.

Например, если вы задаете вопрос "Какой сегодня день?", GPT знает, что чаще всего на подобные вопросы отвечают чем-то вроде "Сегодня вторник" или "Сегодня пятница". Он выбирает ответ, который кажется ему наиболее вероятным, но он не понимает, что такое "вторник" или "пятница". Для него это просто слова, которые часто встречаются вместе.

Представьте, что вы спрашиваете у такого "попугая": "Почему вода замерзает?". Он может ответить: "Вода замерзает, когда температура падает ниже нуля, потому что молекулы воды начинают двигаться медленнее и формируют кристаллическую структуру". Этот ответ звучит разумно и он научно корректен. Однако GPT не понимает, что такое молекулы или кристаллическая структура. Он просто запомнил, что люди часто упоминают эти термины вместе, когда говорят о замерзании воды.

Когда вы задаете вопрос этому "попугаю", он начинает вспоминать, какие слова чаще всего появлялись вместе в разговоре на эту тему. Например, если вы спросите его: "Что такое кошка?", "попугай" не вспомнит как выглядит кошка, он совершенно не понимает, что это такое. (давайте представим, что наш попугай — слепой) Однако он помнит, что люди часто упоминали "животное", "мяукает", "домашнее", и так далее, когда говорили о кошках. Он использует эти ассоциации, чтобы дать ответ, который звучит осмысленно.

Процесс формирования ответа выглядит примерно так:

Каждое новое слово зависит от предыдущего, и попугай выбирает его, ориентируясь на свои обширные "воспоминания" о том, как люди обычно составляют предложения.

Вот где происходит магия. Несмотря на то, что "попугай" не понимает смысла слов так, как это делаем мы, он слышал так много различных разговоров, что научился видеть закономерности в том, как люди строят осмысленные предложения.

Теперь давайте углубимся в то, как этот попугай делает выводы. На первый взгляд кажется, что для этого нужно настоящее понимание смысла, но на самом деле, все гораздо проще.

Несмотря на впечатляющие способности GPT моделей, есть ряд серьезных ограничений, которые делают этот подход тупиковой ветвью в развитии искусственного интеллекта:

Человеческое мышление и работа GPT кардинально отличаются по своей природе. Человек понимает смысл слов и концепций, способен анализировать контекст, строить причинно-следственные связи и принимать решения на основе опыта и интуиции. GPT же, напротив, не обладает пониманием в привычном смысле. Он не осознает смысл слов и не может интерпретировать их глубже, чем просто последовательность символов.

Вся "мыслительная" деятельность GPT сводится к угадыванию следующего слова на основе вероятностей, извлеченных из огромного количества текстов, с которыми он был обучен. Это создает иллюзию мышления, но по сути GPT просто повторяет и комбинирует шаблоны, не понимая их, в отличие от человека, который вкладывает в слова истинный смысл и понимает их значение.

UPD: Кстати, есть на Хабре хорошая статья, которая раскрывает эту тему гораздо шире, при этом не уходя чрезмерно в технарство. Подойдет для тех, кто захочет глубже погрузиться в данный вопрос: https://habr.com/ru/companies/ods/articles/716918/

И да, я не претендую на абсолютную точность в каждой детали — моя цель показать общую концепцию и что ИИ не так сложен, как кажется на первый взгляд.

А если вам интересно, как использовать ИИ, чтобы продавать больше, подписывайтесь на мой Telegram-канал "Продажный ИИ", где я простыми словами обозреваю сервисы и делюсь реальными кейсами применения ИИ в продажах и маркетинге.