Как устроены ИИ-агенты изнутри?

Question

Никита Вихров · Answer

## Как устроены ИИ-агенты изнутри

Агент — это не магия. Это языковая модель в цикле с доступом к инструментам. Понимание архитектуры помогает строить надёжных агентов и отлаживать их когда что-то идёт не так.

### Основной цикл агента

```
while задача не выполнена:
    1. модель получает: задачу + историю + результаты инструментов
    2. модель решает: вызвать инструмент или дать финальный ответ
    3. если инструмент — выполняем, добавляем результат в историю
    4. если финальный ответ — возвращаем пользователю
```

Этот цикл называется **ReAct** (Reasoning + Acting): модель рассуждает о следующем шаге, действует, наблюдает результат, рассуждает снова.

### Из чего состоит агент

**Системный промпт** — задаёт роль, доступные инструменты, ограничения и формат работы. Это основа поведения агента.

**История (memory)** — все предыдущие шаги: промпты, вызовы инструментов, результаты. Модель видит всю историю при каждом шаге. Чем длиннее история — тем больше токенов и дороже каждый шаг.

**Инструменты (tools)** — функции с описанием. Модель видит список инструментов и их параметры, сама решает что и когда вызывать.

**Оркестратор** — код, который запускает цикл, вызывает инструменты и передаёт результаты обратно модели.

### Пример: агент для анализа кода

```
Инструменты:
- read_file(path) → содержимое файла
- list_files(dir) → список файлов
- run_tests() → результат тестов
- create_issue(title, body) → создать задачу в GitHub

Задача: найди все места где нет обработки исключений и создай задачи

Шаг 1: list_files("src/") → ["auth.py", "api.py", "db.py"]
Шаг 2: read_file("src/auth.py") → [содержимое]
Шаг 3: read_file("src/api.py") → [содержимое]
Шаг 4: read_file("src/db.py") → [содержимое]
Шаг 5: create_issue("Нет обработки исключений в auth.py:34", "...")
Шаг 6: create_issue("Нет обработки исключений в db.py:89", "...")
Финальный ответ: найдено 2 проблемы, созданы задачи #12 и #13
```

### Главные проблемы при построении агентов

**Бесконечные циклы**: агент застрял и повторяет одно и то же. Решение: лимит на количество шагов, детектор повторяющихся действий.

**Раздутый контекст**: история становится огромной, токены и деньги тратятся впустую. Решение: суммаризация истории, хранение только релевантных шагов.

**Галлюцинации в вызовах инструментов**: модель вызывает инструмент с несуществующими параметрами. Решение: строгая валидация входных данных перед выполнением.

**Prompt injection**: вредоносные данные из внешних источников меняют поведение агента. Решение: разделять системные инструкции и обрабатываемые данные, валидировать действия.

### Когда агент, а когда просто промпт

Агент нужен когда:
- задача требует нескольких шагов, которые зависят друг от друга
- нужно работать с внешними системами (файлы, API, БД)
- количество шагов заранее неизвестно

Простой промпт достаточен когда:
- задача решается за один шаг
- всё что нужно — уже есть в контексте
- результат легко проверить вручную

Если коротко: агент — это модель в цикле с инструментами и памятью. Чем чище разделены роль, инструменты и история — тем предсказуемее поведение агента.

Как устроены ИИ-агенты изнутри?

Ответы

Как устроены ИИ-агенты изнутри

Основной цикл агента

Из чего состоит агент

Пример: агент для анализа кода

Главные проблемы при построении агентов

Когда агент, а когда просто промпт