Наглядно о том, как температура меняет поведение модели.
Баланс между точностью и разнообразием. Хороший выбор по умолчанию для большинства задач: тексты, ответы, объяснения.
Температура управляет случайностью выбора следующего токена. Чем выше значение — тем разнообразнее и неожиданнее ответы модели.
Температура — параметр, который управляет «творческостью» ответа нейросети. Низкая температура даёт предсказуемые, точные ответы, высокая — более разнообразные и неожиданные. Инструмент наглядно показывает влияние этого параметра.
Для фактических задач, кода и извлечения данных используют низкую температуру (ближе к 0) — нужна точность. Для генерации идей, текстов и брейншторма — выше, чтобы получить разнообразие. Это один из главных рычагов настройки ответа.
Для точных задач — около 0–0,3, для творческих — 0,7–1. Подбирайте под задачу: где важна стабильность, температура ниже.
Высокая температура повышает разнообразие, но и риск «фантазий». Для фактов держите её низкой.
Оба управляют случайностью выбора слов, но по-разному. Обычно настраивают что-то одно, чаще температуру.
Подсчёт токенов в тексте для нейросетей.
Расчёт затрат на запросы к нейросетям.
Сборка структурированного промпта по блокам.
Контекст и цены популярных моделей.
Деление длинного текста по токенам.
Готовые промпты для нейросетей.