/
Вопросы и ответы
/
Промт-инжиниринг
/

Как влияет температура на ответы модели и какое значение выбрать?

Как влияет температура на ответы модели и какое значение выбрать?

17 дней назад

Никита Вихров

Ответы

0

Как влияет температура на ответы модели и какое значение выбрать

Температура — параметр, который управляет степенью случайности в ответах модели.

При низкой температуре модель выбирает наиболее вероятные слова. При высокой — выбор становится шире, ответы разнообразнее, но менее предсказуемы.

Ориентир по задачам

ТемператураКогда использовать
0.0–0.2Извлечение данных, код, факты, структурированный вывод
0.3–0.6Технические объяснения, ответы на вопросы, суммаризация
0.7–1.0Тексты, идеи, варианты формулировок
1.1–2.0Эксперименты с творческими задачами

Пример: одна задача, разные температуры

from openai import OpenAI

client = OpenAI()

def ask(prompt: str, temperature: float) -> str:
    resp = client.chat.completions.create(
        model="gpt-4.1",
        temperature=temperature,
        max_tokens=200,
        messages=[{"role": "user", "content": prompt}]
    )
    return resp.choices[0].message.content

вопрос = "Придумай название для инструмента по анализу логов"

for t in [0.2, 0.7, 1.2]:
    print(f"Температура {t}:")
    print(ask(вопрос, t))
    print()

Пример: фиксированный ответ для продакшна

Для задач, где нужна воспроизводимость, всегда задавайте низкую температуру явно.

def extract_fields(text: str) -> str:
    prompt = f"Извлеки из текста: имя, email, телефон. Верни JSON.\n\nТекст: {text}"
    resp = client.chat.completions.create(
        model="gpt-4.1",
        temperature=0.0,
        max_tokens=256,
        messages=[{"role": "user", "content": prompt}]
    )
    return resp.choices[0].message.content

Правила

  • Для любой задачи с предсказуемым правильным ответом ставьте температуру 0.0–0.2.
  • Не повышайте температуру, чтобы «починить» плохой запрос — сначала улучшайте сам запрос.
  • Значения выше 1.2 — только для экспериментов, не для продакшна.

17 дней назад

Никита Вихров

+7 800 100 22 47

бесплатно по РФ

+7 495 085 21 62

бесплатно по Москве

108813 г. Москва, вн.тер.г. поселение Московский,
г. Московский, ул. Солнечная, д. 3А, стр. 1, помещ. 20Б/3
ОГРН 1217300010476
ИНН 7325174845