Почему команде трудно доверять AI-коду и как с этим работать
Недоверие к AI-коду редко вызвано самим фактом генерации. Команду тревожит другое: непонятно, что агент прочитал, какие условия пропустил и кто заметит ошибку после быстрой правки. Это нормальная реакция на непрозрачный источник изменения.
Коротко
Не измеряйте доверие красивым объяснением агента. Нужны diff, тесты и воспроизводимый путь проверки.
Одинаковые правила для человеческого и AI-кода снимают спор о происхождении изменения.
Доверие появляется постепенно: сначала узкие задачи, затем проверенная статистика собственных ревью.
Почему AI-коду не доверяют?
Разработчик обычно видит ход мысли коллеги в названии ветки, истории коммитов, обсуждении и знании системы. Агент может выдать готовый патч за один запуск. Он выглядит быстрым, но за скоростью скрыта неопределённость: были ли прочитаны ограничения модуля, существующие тесты, миграции и соседние вызовы.
Есть и более приземлённая причина. Агент хорошо пишет код, который выглядит знакомо. Такой diff легко принять без должной проверки, особенно когда функция короткая, а тесты зелёные. Ошибки живут на краю: повторная доставка события, неполный доступ, пустое поле, старое значение в кэше. Они редко бросаются в глаза.
Не пытайтесь лечить это запретом или обязательным признанием «код сделан AI». Полезнее изменить процесс так, чтобы происхождение не влияло на строгость проверки. Любой pull request отвечает на одни вопросы: что изменилось, какой контракт затронут, как проверить негативный путь, как откатить рискованное действие.
Доверие строится на следах работы
Команда быстрее принимает изменение, когда видит следы, которые может перепроверить без автора. Это может быть тест на ошибочный вход, ссылка на контракт, небольшой лог запуска или короткая запись о сознательно не затронутом сценарии. Отчёт агента полезен как карта, но не заменяет эти следы.
| Вместо | Попросите показать |
|---|---|
| «Обработаны все случаи» | Список входов и тест на каждый опасный случай |
| «Проверка прошла» | Команду, область запуска и результат |
| «Изменение локальное» | Список затронутых контрактов и вызывающих мест |
| «Ошибок нет» | Что именно искали и какие ветки не проверяли |
У этого подхода есть побочный эффект. Он улучшает ревью и для ручного кода. Правила становятся яснее, а спор «верим ли мы агенту» превращается в нормальную проверку доказательств.
С каких задач начать работу с агентом?
Не отправляйте агента сразу менять авторизацию, платежи или большой рефакторинг. Первые задачи должны иметь ясный вход, ограниченный набор файлов и быстрый адресный тест. Хороший старт: добавить обработку известной ошибки, написать тест на существующую ветку, обновить документацию рядом с контрактом.
После нескольких таких изменений соберите внутреннюю выборку. Сколько замечаний нашёл ревьюер? Какие дефекты прошли в первую версию? Сколько времени ушло на исправление? Не нужно превращать это в рейтинг людей или моделей. Цель, понять, в каком классе задач агент ускоряет работу, а где добавляет повторную проверку.
Сложные задачи можно дробить. Сначала агент готовит план и список файлов. Затем меняет один слой. Ревьюер проверяет этот слой до следующего. Такой ритм медленнее одного большого патча, зато ошибка не размазывается по десяткам файлов. Порядок проверки раскрыт в чеклисте ревью кода агента.
Когда изменение касается внешнего API, сверяйте работу по контракту, а не по догадке агента. Для подключений через Relay базовый адрес, заголовки и порядок первой проверки собраны в документации аутентификации.
Договоритесь о стоп-сигналах
У агента должны быть причины остановиться. Неясный контракт, отсутствующий тестовый стенд, конфликтующие инструкции, доступ к данным пользователя или необратимое действие требуют вопроса к человеку. Попытка «додумать» в этих условиях создаёт риск, который сложно заметить по красивому diff.
В автоматизации полезен отдельный ключ с ограничениями. Лимит на весь срок, месяц или день задаётся в кабинете ключей; там же видно, когда он исчерпан. Это не гарантия качества кода, но хороший предохранитель от бесконтрольных циклов в CI.
Результаты запуска стоит сохранять в привычном для команды месте: лог job, артефакт теста, комментарий к задаче. Для API-вызова оставляйте идентификатор запроса и время. В журнале запросов по ним можно найти статус, модель, ключ и расход, не раскрывая полный секрет.
Доверие не выдают по умолчанию. Его зарабатывает процесс: маленькое изменение, ясный тест, внимательное ревью, затем следующий шаг. Такой порядок оставляет команде контроль и не требует верить тексту агента на слово.
Что может сделать руководитель команды
Дайте команде право остановить неясную правку без спора о скорости. Для этого нужны понятные критерии: где агент может работать самостоятельно, где нужен план, а где требуется ручное выполнение. Договорённость лучше хранить в репозитории рядом с правилами ревью, а не в сообщении, которое быстро потеряется.
Раз в несколько недель разбирайте одну подтверждённую и одну пропущенную находку. Не ищите виноватого. Смотрите, какого сигнала не хватило: теста, границы задачи, доступа к контракту или времени на ревью. Так доверие растёт из наблюдаемых улучшений, а не из обещаний инструмента.
Эта привычка полезна и скептикам, и сторонникам автоматизации. Первые получают право требовать доказательства, вторые видят, какие задачи агент действительно ускоряет.
Нужно ли отмечать в pull request, что код написал агент?
Если это помогает ревьюеру понять процесс, отметка полезна. Она не должна менять стандарт проверки. Важнее указать границы задачи, тесты и известные ограничения изменения. Тогда ревьюер видит риск и доказательства, а не делает вывод о качестве по происхождению строк.
Когда агенту нельзя давать задачу без присмотра?
Когда задача затрагивает доступ, данные пользователя, деньги, необратимые операции или неясный контракт. В этих случаях агент может подготовить анализ, а решение и выполнение остаются у человека. То же правило подходит для изменений, чьи последствия нельзя быстро отменить или проверить на изолированном сценарии.
Как понять, что команда начинает доверять процессу?
Смотрите на следы работы: понятные границы задач, воспроизводимые проверки, разбор ошибок и время реакции на стоп-сигнал. Доверие появляется постепенно, когда найденная проблема не теряется, а следующий запуск уже защищён правилом или тестом. Одна удачная демонстрация такого вывода не даёт.