Как понять, что модель не знает ответа, а не выдумывает?

Question

Никита Вихров · Answer

## Как понять, что модель не знает ответа, а не выдумывает

Языковая модель не говорит «я не знаю» сама по себе — она генерирует правдоподобный текст,
даже если не имеет нужной информации. Чтобы это обнаружить, нужно явно спрашивать об уверенности
или проверять ответ независимым способом.

## Способ 1: просить оценить уверенность в запросе

```python
from openai import OpenAI
import json

client = OpenAI()

def ask_with_confidence(question: str) -> dict:
    prompt = f"""{question}

Ответь на вопрос. После ответа добавь отдельную строку в формате JSON:
{{"confidence": "высокая"|"средняя"|"низкая", "reason": "одно предложение почему"}}"""

resp = client.chat.completions.create(
        model="gpt-4.1",
        temperature=0.0,
        max_tokens=512,
        messages=[{"role": "user", "content": prompt}]
    )

текст = resp.choices[0].message.content
    строки = текст.strip().split("
")
    json_строка = next((s for s in reversed(строки) if s.startswith("{")), None)

if json_строка:
        мета = json.loads(json_строка)
        ответ = "
".join(s for s in строки if s != json_строка).strip()
    else:
        мета = {"confidence": "неизвестно", "reason": ""}
        ответ = текст

return {"answer": ответ, "confidence": мета}

результат = ask_with_confidence("В каком году вышла библиотека LangChain?")
print(результат["answer"])
print(результат["confidence"])
```

## Способ 2: несколько прогонов и сравнение

Если модель уверена — ответы при разных прогонах совпадают.
Если выдумывает — детали расходятся.

```python
def check_consistency(question: str, runs: int = 3) -> dict:
    ответы = []
    for _ in range(runs):
        resp = client.chat.completions.create(
            model="gpt-4.1",
            temperature=0.7,
            max_tokens=100,
            messages=[{"role": "user", "content": question}]
        )
        ответы.append(resp.choices[0].message.content.strip())

уникальных = len(set(ответы))
    return {
        "answers": ответы,
        "consistent": уникальных == 1,
        "unique_count": уникальных
    }

результат = check_consistency("Кто написал компилятор GCC?")
print(результат["consistent"])   # True или False
print(результат["answers"])
```

## Способ 3: явная инструкция отвечать «не знаю»

```python
SYSTEM = """Отвечай только если уверен в фактах.
Если вопрос касается конкретных дат, версий, имён или событий и ты не уверен —
отвечай строго: "Не знаю, проверьте в документации."
Не додумывай и не предполагай."""
```

## Правила

- Ни один из способов не даёт стопроцентной гарантии.
- Используйте несколько прогонов для фактических вопросов, где цена ошибки высока.
- Для критически важных фактов всегда сверяйтесь с внешним источником.

Как понять, что модель не знает ответа, а не выдумывает?

Ответы

Как понять, что модель не знает ответа, а не выдумывает

Способ 1: просить оценить уверенность в запросе

Способ 2: несколько прогонов и сравнение

Способ 3: явная инструкция отвечать «не знаю»

Правила

Каталог