Function calling: как безопасно выполнить tool call
Tool call содержит предложение модели вызвать инструмент с аргументами. Реальное действие выполняет ваше приложение. Поэтому схему, права пользователя и допустимость операции нужно проверить до обращения к базе, почте или другой внешней системе.
Опишите узкий инструмент
Начните с одной безопасной операции, например чтения статуса известной пользователю заявки. Задайте название, описание и JSON-схему аргументов. Не предоставляйте универсальный инструмент «выполнить любую команду», если задаче достаточно чтения одного статуса.
Поддержку tools проверьте у выбранной модели в каталоге Relay. Формат зависит от протокола. Контракт Chat Completions описан в документации API, а Messages использует собственные блоки инструментов.
Проверьте предложенные аргументы
Распарсите JSON обычным парсером и примените серверную схему. Не исполняйте строки аргументов как код. Проверьте допустимые значения, длины, идентификаторы и принадлежность ресурса текущему пользователю.
Модель не может выдать пользователю новые права. Даже корректный идентификатор заявки не разрешает чтение чужой заявки. Эту проверку проводит ваш сервер по текущей аутентифицированной сессии, а не по тексту разговора.
Верните результат в тот же цикл
После выполнения отправьте результат инструмента с идентификатором соответствующего вызова, как требует протокол. Сохраните сообщения, которые образуют этот цикл. Если потерять связь вызова и результата, следующий запрос может завершиться ошибкой или получить неполный контекст.
Ограничьте число инструментальных шагов и общий срок операции. При ошибке внешней системы верните контролируемый результат без ключей, внутренних адресов и полного стека. Сверяйте сообщения с матрицей совместимости.
Не повторяйте побочные действия автоматически
Отправка письма или изменение записи может успеть выполниться до сетевого обрыва. Для таких инструментов нужен собственный ключ операции и проверка уже выполненного действия. Идентификатор tool call сам по себе не заменяет договорённость об идемпотентности с внешней системой.
Начните с инструмента чтения, затем проверьте отказ в доступе, неверные аргументы и ошибку исполнения. Только после этого добавляйте операции записи с подтверждением в тех случаях, где его требует ваш продукт. Сетевые отказы LLM разбирайте отдельно по документации ошибок.