Вопросы категории Промт-инжиниринг

Как работает контекстное окно?

Что такое few-shot prompting и как это работает?

Как снизить стоимость API-вызовов к LLM?

LLM для генерации тестовых данных

Что такое chain-of-thought и зачем заставлять модель думать вслух?

Что такое streaming в LLM и как его реализовать?

Структурированный вывод LLM: как получить предсказуемый формат

LLM для работы с Git: commit messages, changelog, ревью PR

Как сделать кэш ответов языковой модели и снизить расходы?

Как разбивать большие документы для передачи в языковую модель?

Как получить JSON из модели и не сломаться

Промпты для генерации кода

Как обрабатывать ошибки LLM в продакшне?

LLM для рефакторинга легаси-кода

Что такое temperature, top-p и как они влияют на вывод

Негативные инструкции в промптах: что не работает

LLM для миграции между технологиями

Что такое function calling и в чем отличие от обычного промта?

Как версионировать запросы к модели?

Как контролировать длину ответа языковой модели?

Как влияет температура на ответы модели и какое значение выбрать?

Как попросить модель улучшить собственный запрос?

Как обрабатывать десятки запросов к модели параллельно?

Как сравнивать два варианта запроса на живом трафике

Как использовать языковую модель для разметки обучающих данных

Как защитить систему от внедрения вредных инструкций в запросах и документах?

Как писать системный промпт для продакшн-приложения

Почему LLM галлюцинирует и как это снизить

Что такое LLM pipeline и как его построить

Prompt chaining vs агенты: когда что использовать?

Как понять, что модель не знает ответа, а не выдумывает?

Как правильно передавать историю диалога в языковую модель?

Что логировать в продакшне, чтобы разбирать сбои языковой модели

Как использовать языковую модель для оценки ответов другой модели?

Как заставить модель перепроверить свой же ответ вторым вызовом?

Как суммировать длинный документ через разбивку и сборку

Как сохранять факты о пользователе между сессиями?

XML-теги в промптах

LLM для code review: как настроить

Как мониторить LLM в продакшне

LLM для архитектурных решений

Как работать с длинными документами в LLM?

Работает ли роль-промптинг?

Промпты для генерации документации

ИИ для написания тестов

Что такое Batch API и когда его использовать