Как влияет температура на ответы модели и какое значение выбрать?
17 дней назад
Никита Вихров
Ответы
0
Как влияет температура на ответы модели и какое значение выбрать
Температура — параметр, который управляет степенью случайности в ответах модели.
При низкой температуре модель выбирает наиболее вероятные слова. При высокой — выбор становится шире, ответы разнообразнее, но менее предсказуемы.
Ориентир по задачам
Пример: одна задача, разные температуры
Пример: фиксированный ответ для продакшна
Для задач, где нужна воспроизводимость, всегда задавайте низкую температуру явно.
Правила
- Для любой задачи с предсказуемым правильным ответом ставьте температуру 0.0–0.2.
- Не повышайте температуру, чтобы «починить» плохой запрос — сначала улучшайте сам запрос.
- Значения выше 1.2 — только для экспериментов, не для продакшна.
17 дней назад
Никита Вихров
Похожие вопросы
108813 г. Москва, вн.тер.г. поселение Московский,
г. Московский, ул. Солнечная, д. 3А, стр. 1, помещ. 20Б/3
ОГРН 1217300010476
ИНН 7325174845





