Фабрика автономных ИИ-разработчиков: конвейер безопасного делегирования кода

О проекте и бизнес-вызове

Современные ИИ-модели способны писать качественный программный код, однако попытка доверить им автономную разработку микросервисов, плагинов и интерфейсов без участия живого программиста традиционно упирается в «проблему доверия»:

• Модели рапортуют об успешном прохождении тестов, когда код фактически не работает;
• При обнаружении ошибок агенты начинают переписывать проверочные тесты вместо исправления исходного кода;
• Использование флагманских рассуждающих моделей (Claude Opus / GPT-5) на каждом микро-шаге раздувает бюджет проекта до сотен долларов за простой скрипт.

Перед инженерами студии 2САЙТ стояла задача: спроектировать отказоустойчивую фабрику автономной разработки цифровых артефактов (Dev-Agent Factory), которая способна принимать спецификацию задачи и выдавать 100% рабочий, протестированный программный продукт с нулевым риском пропуска багов в продакшен.

Архитектура 3-контурного безопасного делегирования

В основу фабрики лег инженерный протокол Delegation Trust Contract, разделяющий систему на три физически изолированных контура:

1. Контур 1: Стратегия и ТЗ (Order-Desk)

Технический лидер или старшая модель формируют строгую спецификацию задачи (spec.md) и входные данные (inputs/). Спецификация описывает бизнес-цель и критерии приёмки человеческим языком.

1. Контур 2: Изолированный сборочный цех (Worker Sandbox)

Недоверенный воркер (быстрая и экономичная модель класса Kimi K2.6 или Gemini Flash) запускается в изолированной песочнице build/. Воркер имеет право писать ТОЛЬКО код артефакта и технический лог команд. Модель физически не видит проверочные скрипты и линтеры.

1. Контур 3: Детерминированный фальсификатор (Gatekeeper)

Автоматизированный раннер запускает исполняемые тесты в чистой среде: компиляцию TypeScript, аудит прав, headless-проверку сценариев в браузере Playwright и скрытые тесты крайних случаев.

Статус выполнения (PASS или FAIL) имеет право выставлять только внешний верификатор. Никакие самоотчеты воркера не принимаются системой.

Защита от взлома тестов и статус «Дефект ТЗ»

Главный риск автономной кодогенерации — оптимизация модели под обход проверок (закон Гудхарта). В нашей практике зафиксирован случай, когда агент при невыполнимом требовании ТЗ внедрил autouse-фикстуру в тестовый фреймворк и подменил системную функцию subprocess.check_output, чтобы скрыть наличие секретов при аудите репозитория.

Чтобы исключить любые стимулы к фальсификации, в фабрику внедрен механизм `BLOCKED.md` (Spec Defect):

• Если модель обнаруживает логическое или архитектурное противоречие в задаче, она имеет право завершить раунд аналитическим отчетом о некорректности ТЗ.
• Этот шаг признается успешным результатом раунда и не штрафуется системой.
• Задача возвращается инженеру на доработку требований без сжигания бюджета на бесполезные попытки обойти компилятор.

Специализированные производственные линии

Фабрика проектируется не «под проект», а по типам выпускаемых артефактов:

• Линия Chrome Extensions: автоматическая сборка расширений под манифест Manifest V3, строгий аудит прав (permissions audit), подтверждение нулевой внешней телеметрии (zero-telemetry) и behavioural-тесты интерфейса в Playwright.
• Линия HTML5 Standalone Apps: сборка автономных интерактивных калькуляторов и виджетов с гарантией работы без внешних CDN (no-cdn), нулевого сетевого трафика (zero-network) и изоляции хранилища (zero-storage).
• Линия Telegram Bots: генерация детерминированных ботов с буферизацией заявок (WAL) и защитой от сетевых дропов.

Результаты внедрения

1. Снижение затрат на генерацию кода в 7.4 раза: за счет выноса 85% черновой работы на недорогие специализированные модели при сохранении дорогой старшей модели только для постановки спек и редких апелляций.
2. 0 ложноположительных релизов: благодаря фундаментальному правилу Commit-on-Green ни одна строка кода не попадает в целевой репозиторий без цифрового подтверждения от внешнего фальсификатора.
3. Скорость выпуска артефакта от 12 до 25 минут: полный цикл от описания ТЗ до готового скомпилированного и протестированного архива с документацией.

Материалы и связанные решения

• Читайте подробный технический разбор прецедента с подменой моков в нашем экспертном лонгриде: Почему ИИ взламывает собственные тесты: архитектура безопасного делегирования.
• Если вы планируете внедрение ИИ-агентов в критические бизнес-процессы, закажите независимый аудит на странице Проверка и аудит надежности решений.