Вопросы категории Промт-инжиниринг

Как работает контекстное окно?

Что такое few-shot prompting и как это работает?

Как снизить стоимость API-вызовов к LLM?

LLM для генерации тестовых данных

Что такое chain-of-thought и зачем заставлять модель думать вслух?

Что такое streaming в LLM и как его реализовать?

Структурированный вывод LLM: как получить предсказуемый формат

LLM для работы с Git: commit messages, changelog, ревью PR

Как сделать кэш ответов языковой модели и снизить расходы?

Как разбивать большие документы для передачи в языковую модель?

Как получить JSON из модели и не сломаться

Промпты для генерации кода

Как обрабатывать ошибки LLM в продакшне?

LLM для рефакторинга легаси-кода

Как обрабатывать десятки запросов к модели параллельно?

Что такое temperature, top-p и как они влияют на вывод

Негативные инструкции в промптах: что не работает

LLM для миграции между технологиями

Что такое function calling и в чем отличие от обычного промта?

Как версионировать запросы к модели?

Как контролировать длину ответа языковой модели?

Как влияет температура на ответы модели и какое значение выбрать?

Как попросить модель улучшить собственный запрос?

Как сравнивать два варианта запроса на живом трафике

Как использовать языковую модель для разметки обучающих данных

Как защитить систему от внедрения вредных инструкций в запросах и документах?

Как писать системный промпт для продакшн-приложения

Почему LLM галлюцинирует и как это снизить

Что такое LLM pipeline и как его построить

Prompt chaining vs агенты: когда что использовать?

Как заставить модель перепроверить свой же ответ вторым вызовом?

Как правильно передавать историю диалога в языковую модель?

Что логировать в продакшне, чтобы разбирать сбои языковой модели

Как использовать языковую модель для оценки ответов другой модели?

Как понять, что модель не знает ответа, а не выдумывает?

Как суммировать длинный документ через разбивку и сборку

Как сохранять факты о пользователе между сессиями?

XML-теги в промптах

LLM для code review: как настроить

Как мониторить LLM в продакшне

Как работать с длинными документами в LLM?

LLM для архитектурных решений

Работает ли роль-промптинг?

Промпты для генерации документации

ИИ для написания тестов

Что такое Batch API и когда его использовать