LLM, токены, температура — без магии, но по-человечески

ИИ — это не магия. Это просто очень умный попугай, который гадает, какое слово поставить дальше. Давайте разберёмся, что к чему.

LLM — большая языковая модель Large Language Model — не значит, что она всё знает. Она просто читала кучу текстов и умеет угадывать, что будет логично после вашего запроса. Не интеллект, а статистический автозаполнитель.

Токены — обломки текста Не слова, не буквы, а куски. Пример: «котик» — 1 токен «нейросеточка» — может быть 2–3 токена

ИИ работает именно с токенами. Чем их больше — тем дольше и дороже ответ. Это как такси: цена зависит не только от расстояния, но и от багажа.

Температура — мера креативности — 0 — всё строго: инструкции, коды, документы — 1 — немного вдохновения: примеры, тексты, идеи — 2+ — полёт фантазии: поэзия, метафоры, сюр

Важно: высокая температура = больше случайности, не лучше.

Что происходит за кулисами Вы пишете промпт → текст разбивается на токены → ИИ выбирает следующий токен → шаг за шагом строит ответ. Один токен — одно предсказание. Так и рождаются ответы.

Зачем всё это знать? Чтобы понимать, где границы, как писать запросы понятнее и почему «температура 2» не помогает с договором аренды.
Закрытый Телеграм-чат про ИИ: