К содержимому
Блог

Function calling: как безопасно выполнить tool call

Function calling: как безопасно выполнить tool call

Tool call содержит предложение модели вызвать инструмент с аргументами. Реальное действие выполняет ваше приложение. Поэтому схему, права пользователя и допустимость операции нужно проверить до обращения к базе, почте или другой внешней системе.

Опишите узкий инструмент

Начните с одной безопасной операции, например чтения статуса известной пользователю заявки. Задайте название, описание и JSON-схему аргументов. Не предоставляйте универсальный инструмент «выполнить любую команду», если задаче достаточно чтения одного статуса.

Поддержку tools проверьте у выбранной модели в каталоге Relay. Формат зависит от протокола. Контракт Chat Completions описан в документации API, а Messages использует собственные блоки инструментов.

Проверьте предложенные аргументы

Распарсите JSON обычным парсером и примените серверную схему. Не исполняйте строки аргументов как код. Проверьте допустимые значения, длины, идентификаторы и принадлежность ресурса текущему пользователю.

Модель не может выдать пользователю новые права. Даже корректный идентификатор заявки не разрешает чтение чужой заявки. Эту проверку проводит ваш сервер по текущей аутентифицированной сессии, а не по тексту разговора.

Верните результат в тот же цикл

После выполнения отправьте результат инструмента с идентификатором соответствующего вызова, как требует протокол. Сохраните сообщения, которые образуют этот цикл. Если потерять связь вызова и результата, следующий запрос может завершиться ошибкой или получить неполный контекст.

Ограничьте число инструментальных шагов и общий срок операции. При ошибке внешней системы верните контролируемый результат без ключей, внутренних адресов и полного стека. Сверяйте сообщения с матрицей совместимости.

Не повторяйте побочные действия автоматически

Отправка письма или изменение записи может успеть выполниться до сетевого обрыва. Для таких инструментов нужен собственный ключ операции и проверка уже выполненного действия. Идентификатор tool call сам по себе не заменяет договорённость об идемпотентности с внешней системой.

Начните с инструмента чтения, затем проверьте отказ в доступе, неверные аргументы и ошибку исполнения. Только после этого добавляйте операции записи с подтверждением в тех случаях, где его требует ваш продукт. Сетевые отказы LLM разбирайте отдельно по документации ошибок.

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.