🌡 Температура в ИИ — как настроить уровень безумия?

🌡 Температура в ИИ — как настроить уровень безумия?

Могли видеть параметр "Temperature" в настройках API или, например, в Playground в Gemini. Большинство его оставляют по умолчанию, но на самом деле это главный рычаг, который превращает скучного робота в креативного писателя (иногда сумасшедшего)

Как это работает механически?

Нейросеть не придумывает текст, она всегда предсказывает следующее слово на основе вероятности

Если сделать запрос: На столе стоит стакан..., то у нейросети есть список вариантов продолжения с процентами вероятности:
— воды (65%)
— молока (25%)
— магмы (0.001%)

Именно показатель температура решает из какой части этого списка модель выберет слово

Низкая температура (0.0 — 0.3) — режим зануды / калькулятора, модель всегда выбирает вариант с самой высокой вероятностью

1. Как это выглядит — на запрос "2+2" она всегда ответит "4", на запрос "на столе стоит стакан..." выберет "воды"
2. Для чего подойдет — код, математика, логические задачи, извлечение фактов из текста. То есть там, где шаг влево, шаг вправо — ошибка

Средняя температура (0.4 — 0.7) — режим собеседник, модель чаще берет самые вероятные слова, но иногда позволяет себе выбрать второй или третий по популярности вариант

1. Как это выглядит — текст становится живым, исчезают роботизированные повторы, но смысл сохраняется
2. Для чего подойдет — написание статей, постов, обычное общение, саммари

Высокая температура (0.8 — 1.0+) — режим поэт / безумец. Тут математика уже меняется, ИИ начинает игнорировать очевидные варианты и специально ищет редкие слова. График вероятностей сплющивается, и слово "магма" из примера становится почти таким же вероятным, как "вода"
1. Как это выглядит — на столе стоит стакан... вселенской тоски
2. Для чего подойдет — мозговой штурм, поиск нестандартных идей, стихи, креативный копирайтинг
3. Риск — если выкрутить выше 1.0, модель начнет галлюцинировать, придумывать несуществующие факты и говорить на выдуманных языках

Шпаргалка для настройки

— 0.2, если нужна правда
— 0.7, если нужен человеческий язык
— 0.9, если нужен взрыв мозга

ИИ не забирает работу — он забирает шансы у тех, кто не хочет учиться.

На канале — короткие, понятные разборы и гайды, чтобы быть на шаг впереди⬇

Начать дискуссию