Автор: Анастасия Мальцева, фронтенд-разработчик.
Работала со Сбером, ВТБ, Газпромом.
Спикер на Holy.js, FrontendConf, OpenConf
и на митапах Moscow JS, Piter JS,
Erevan JS, Moscow CSS.
Проводила вебинары в Хекслете.
Ведёт канал «Код и кофе» в Телеграм.
При внедрении AI в разработку специалисты должны держать в голове два основных вопроса: куда будет отправляться исходный код разработчиков и какие права есть у агента в репозитории и на серверах компании.
Ответы зависят от того, как внедрён AI: разные подходы по-разному защищают данные, стоят разных денег и требуют разных навыков.
Один и тот же инструмент может быть разумным выбором для небольшого проекта и совершенно неподходящим — для большой компании со строгими требованиями к безопасности.
Разберём несколько подходов к внедрению AI в разработку — от персональных аккаунтов до корпоративных AI-шлюзов и собственных моделей. Посмотрим, какие риски возникают на каждом уровне и как выбрать решение, подходящее той или иной компании.
Если вы CTO или тимлид и отвечаете за внедрение ИИ в разработку в команде, посмотрите курс AI SDLC: спеки, конвейер до production и метрики эффекта.
Представим двух разработчиков. Первый работает над небольшим интернет-магазином, а второй пишет код для банковского портала. Оба хотят использовать Claude Code: это поможет быстрее писать код, эффективнее исправлять ошибки и автоматизировать рутинные задачи.
Первый подключает AI-ассистента к проекту и уже через несколько минут получает готовые компоненты для своего магазина.
Второй делает то же самое, но кроме нового кода получает визит безопасников: вместе с запросами к нейросети разработчик отправил внешнему провайдеру фрагменты закрытого исходного кода, описание внутренних сервисов и другую конфиденциальную информацию — а безопасники такого не любят.
Две угрозы при внедрении AI
Первая угроза — утечка данных. Когда разработчик использует внешний AI-сервис, фрагменты кода и другие данные могут отправляться на серверы провайдера. Разработчик должен понимать, где обрабатываются данные, как долго они хранятся и используются ли его данные для обучения моделей.
Вторая угроза — активные действия AI-агента. Современные агенты умеют изменять файлы, выполнять команды в терминале, устанавливать библиотеки и обращаться к внешним сервисам. Агент может случайно удалить данные или раскрыть секреты.
Поэтому для безопасности AI-разработки нужны меры защиты по двум направлениям: контроль передачи данных и ограничение полномочий агента.
Четыре способа внедрить AI в разработку
Мы выделили четыре способа, которые обычно используют при внедрении AI. Это деление условно, но оно позволяет разобраться в различиях и сходствах этих подходов.
Уровень 1. Персональные AI-аккаунты
Уровень 2. Корпоративные подписки
Уровень 3. Корпоративный AI-шлюз
Уровень 4. Собственные модели в контролируемой инфраструктуре
Эти подходы различаются уровнем контроля за передачей данных. А вот управление доступами и правами агента — это отдельный вопрос: тщательно настраивать права потребуется при любом варианте внедрения AI.
Уровень 1. Персональные AI-аккаунты
Самый простой вариант — разработчики самостоятельно используют ChatGPT, Claude или Cursor: зарегистрировались, оформили подписку и начали работать.
У этого подхода есть проблема: компания не контролирует, какие данные сотрудники отправляют нейросетям и какие разрешения выдают агентам.
Кроме того, условия обработки данных зависят от сервиса, тарифа и настроек. Например, в некоторых потребительских продуктах запросы могут использоваться для обучения моделей, если пользователь не отключил эту возможность. Модели запоминают часть обучающих данных и могут выдать их другим пользователям.
Этот вариант подходит для личных проектов и экспериментов с неконфиденциальными данными. Для работы с корпоративным кодом необходимо как минимум согласование с компанией и чёткие правила использования AI.
Уровень 2. Корпоративные подписки
Следующий уровень — ChatGPT Business, Claude Team или GitHub Copilot Business. Компания оплачивает подписки, управляет доступом сотрудников и получает дополнительные настройки безопасности. Что входит в такие тарифы и сколько они стоят, мы разбирали в обзоре подписок на AI для разработчика.
В корпоративных подписках данные не используются по умолчанию для обучения моделей. Однако запросы по-прежнему будут обрабатываться на внешних серверах.
Небольшие и средние компании могут пользоваться корпоративной подпиской и не строить собственную инфраструктуру. Главное — проверить условия обработки данных и настроить разрешения для сотрудников.
Уровень 3. Корпоративный AI-шлюз
AI-шлюз (AI gateway, или LLM gateway) — это промежуточный сервис между разработчиками и нейросетями, общий для всех команд и инструментов компании. Вместо прямого обращения к OpenAI или Anthropic все запросы сотрудников и агентов проходят через единую контролируемую точку.
Шлюз позволяет централизованно хранить API-ключи, проверять права доступа, управлять лимитами расходов и вести аудит. На уровне шлюза можно настроить политики безопасности, чтобы автоматически находить и отсекать секреты или персональные данные ещё до отправки в облачную модель.
Однако сам шлюз не гарантирует полной приватности: при работе с облаком код всё равно уходит провайдеру. К тому же площадки могут временно хранить трафик. Например, OpenAI сохраняет запросы до 30 дней, чтобы проверять их на злоупотребления.
Такой подход применяют в крупных компаниях, которым нужны единые правила использования AI для разных команд и инструментов.
Уровень 4. Собственные модели в контролируемой инфраструктуре
Самый конфиденциальный и одновременно самый сложный вариант — запуск AI-моделей на собственных серверах или на выделенных серверах, арендованных в облаке. Как это выглядит в миниатюре, можно посмотреть на примере локальной нейросети на ноутбуке.
В этом случае организация самостоятельно контролирует среду обработки данных и не передаёт исходный код внешним AI-провайдерам. Собственную модель не обязательно обучать с нуля: можно развернуть обученную модель с подходящей лицензией.
Однако при таком подходе компания будет вынуждена самостоятельно обеспечивать вычислительные мощности, обновление моделей, безопасность и техническую поддержку.
Этот вариант оправдан прежде всего там, где требования к контролю данных и масштабы использования AI компенсируют высокую стоимость инфраструктуры. Такой подход может использоваться, например, в банках, где конфиденциальность предельно важна.
Zero Data Retention
Повышенные требования к конфиденциальности компания может реализовать в режиме Zero Data Retention (ZDR). В этом режиме провайдер не сохраняет содержимое запросов и ответов после обработки, за исключением предусмотренных законом ограничений.
В OpenAI режим ZDR доступен для определённых API после одобрения со стороны провайдера. У Anthropic аналогичный режим можно запросить для Claude API. Для Claude Code его можно запросить при работе через корпоративный API или на подходящих тарифах Enterprise.
ZDR не означает абсолютный отказ от хранения пользовательских данных.
Например, и OpenAI, и Anthropic хранят пакетные задания Batch API и файлы, загруженные через Files API. Конфиденциальные данные стоит отправлять только через те функции, которые включены в ZDR.
Какой подход выбрать для своей компании
Универсального решения нет: всё зависит от размера команды, чувствительности данных, бюджета и требований к безопасности.
Например, небольшому интернет-магазину с двумя разработчиками вряд ли понадобится собственный AI-шлюз. Достаточно корпоративной подписки, правил работы с конфиденциальными данными и обязательной проверки сгенерированного кода.
Продуктовой компании на 150 сотрудников может подойти централизованный доступ через API. А если разные команды используют несколько моделей и инструментов, имеет смысл рассмотреть AI-шлюз с едиными политиками безопасности.
Для банка или крупной организации с чувствительными данными требования будут строже. Здесь могут понадобиться собственные модели, изолированная инфраструктура и полноценный аудит действий AI.
Более дорогой подход не всегда означает «более безопасный». Неправильно настроенная локальная модель может создать больше рисков, чем корпоративный облачный сервис с продуманными ограничениями.
В коммерческом облаке сессии пользователей изолированы, а при сборке локального AI-ассистента (RAG) инженеры могут подключить к нему единую базу кода и документов от имени суперадмина, без разграничения прав доступа для разных сотрудников. Как компании подключают к моделям свои данные, мы описывали в статье про ИИ-агентов и RAG.
В итоге бизнес за свои же деньги создаст «чёрный ход» к любым секретам.
Зловредный инсайдер, любопытный подрядчик или хакер с доступом к аккаунту сотрудника может попросить бота показать ключи от продакшена или закрытые отчёты. Незашифрованная история переписки с моделью откроет админам доступ к паролям и коду из чужих запросов.
Парадокс: переплатили за защиту от внешнего мира, но открыли все данные внутри компании.
Уровень AI-инфраструктуры для вашей компании
Выбрать наилучший подход могут только специалисты, знающие конкретные особенности компании, но можно выполнить несложную проверку, чтобы понять, на какой уровень ориентироваться и какие вопросы задать специалистам по безопасности.
Шаг 1. Стоп-вопросы
Ответьте «да» или «нет».
1. Закон, договор с клиентом или внутренняя политика запрещают передавать ваш код или данные внешним AI-провайдерам?
Если «да» — пропускайте все следующие вопросы и выбирайте локальную модель.
2. Среди данных, которые попадут в AI, есть персональные данные?
Если «да» — проведите юридическую оценку, прежде чем выбрать уровень инфраструктуры. В России работу с персональными данными определяет 152-ФЗ: в нём описаны правила локализации данных граждан РФ и правила трансграничной передачи данных.
Шаг 2. Баллы
Выберите по одному варианту в каждом вопросе и сложите баллы.
1. С какими данными будет работать AI?
Открытый код, учебные и тестовые проекты: 0 баллов
Закрытый исходный код компании: 1 балл
Коммерческая тайна, финансовая информация или персональные данные: 2 балла
2. Сколько разработчиков будут использовать AI?
1–3 человека: 0 баллов
4–20 человек: 1 балл
Более 20 человек: 2 балла
3. Как нужно управлять доступом и расходами?
Каждый настраивает сам, достаточно личных аккаунтов: 0 баллов
Нужны корпоративные аккаунты и управление доступом: 1 балл
Нужны единые правила для разных команд и инструментов, лимиты расходов и аудит: 2 балла
4. Как нужно контролировать содержимое запросов?
Достаточно правил и обучения сотрудников: 0 баллов
Нужен договор с провайдером и его настройки (например, отказ от обучения на данных, ZDR по согласованию): 1 балл
Нужна техническая проверка до отправки: поиск секретов, блокировка запросов с определёнными данными: 2 балла
Результаты
Баллы | Рекомендуемый подход |
|---|---|
0–1 | Уровень 1. Личные AI-аккаунты |
2–3 | Уровень 2. Корпоративные подписки |
4–7 | Уровень 3. Централизованный доступ через API: собственный сервис для одной команды или сценария |
8 | Уровень 3 с оценкой необходимости собственной инфраструктуры — до уровня 4. |
Шаг 3. Проверьте собственные ресурсы
Имеющиеся в компании ресурсы ограничивают объём сервисов, которые удастся поддерживать.
Для уровня 3 нужна команда, которая настроит шлюз и правила безопасности, для уровня 4 — команда, которая будет управлять серверами, моделями и безопасностью. Кого искать в такую команду, рассказали в статье «Специалист по ИИ: кого нанимать для внедрения».
Если людей не хватает, не занижайте требования, не убеждайте себя, что данные менее чувствительны, чем на самом деле. Выберите уровень, на который хватит ресурсов, и дополните технические меры защиты внутренними правилами — либо не отправляйте в AI самые чувствительные данные, пока нет возможности контролировать и фильтровать данные.
Шаг 4. Определите полномочия агентов
Определите, что может делать агент.
Только отвечает и генерирует код. Для безопасной работы будет достаточно code review и стандартных проверок.
Изменяет файлы, запускает тесты и команды.
Не давайте доступ к секретам, работайте в изолированном окружении. Опасные команды должен подтверждать человек.Работает с корпоративными системами через API или MCP, с production или платёжными системами.
У агента должны быть минимальные права, строгая изоляция, аудит и подтверждение опасных действий человеком.
Из чего состоит обвязка агента и где в ней ставить ограничения, мы разбирали в статье «Анатомия агентного харнесса». Писать таких агентов самим, с evals и ревью, учат в программе «Инженерия AI-агентов».
С чего начать безопасное внедрение AI
Необязательно сразу строить сложную инфраструктуру. Начать можно с нескольких понятных шагов:
Определите, какие данные разрешено передавать AI. Рассмотрите исходный код, персональные данные, пароли, API-ключи и коммерческую тайну.
Выберите разрешённые инструменты. Изучите условия обработки и хранения данных, возможность их использования для обучения моделей и доступные настройки безопасности.
Ограничьте полномочия AI-агентов. Не предоставляйте без необходимости доступ к production, секретам и корпоративным системам. Опасные операции должны подтверждаться человеком.
Организуйте проверку результатов. Сгенерированный код должен проходить code review, тестирование и стандартные проверки безопасности.
Начните с пилотного проекта. Оцените качество работы, экономию времени, расходы и выявленные риски, прежде чем подключать всю компанию.
Проверьте юридические ограничения. Например, при обработке персональных данных необходимо учитывать 152-ФЗ, а в финансовой сфере могут действовать дополнительные отраслевые ограничения. Использование зарубежных AI-сервисов требует оценки применимых правил передачи и обработки данных.
Выбор между корпоративной подпиской, AI-шлюзом и локальной моделью определяет, где обрабатывается код и как контролируются данные. При любом варианте разработчик должен ставить задачи агентам, настраивать права и проверять результат.
Внедрить ИИ в процессы команды — курс AI SDLC для CTO и тимлидов: 4 недели и 4 живых воркшопа. Спеки, конвейер до production, пропускная способность ревью и метрики эффекта. Смотреть программу →
За практическим опытом в работе с ИИ приходите на курс Хекслета «ИИ для разработчиков 2.0». За пять недель вы пройдёте полный цикл разработки с ИИ — от спецификации до тестов и независимого ревью в GitHub.
Заключение
Безопасное внедрение AI не всегда требует больших инвестиций. Для небольшой команды может оказаться достаточно корпоративной подписки и нескольких разумных ограничений. Крупной организации, напротив, могут понадобиться собственная инфраструктура и централизованное управление AI.
Главное — выбрать инструмент по необходимым параметрам, а не по его общим возможностям или популярности.
