К содержимому
Блог

AI-агент: как работает цикл модели и инструментов

AI-агент: как работает цикл модели и инструментов

AI-агент в приложении получает задачу, обращается к модели, выполняет разрешённое действие и передаёт результат модели для следующего шага. Такой цикл может продолжаться несколько раз. Например, агент находит состояние заказа и составляет ответ по найденной записи. Relay предоставляет API модели; инструменты, память задачи и условия остановки реализует ваше приложение. Ниже показан минимальный цикл с одним действием чтения.

Коротко

  • Модель предлагает вызов, программа проверяет его и запускает инструмент.

  • Сохраняйте сообщение assistant и связывайте каждый результат с tool_call_id.

  • Ограничьте число шагов, время запроса и расходы до запуска цикла.

Как работает AI-агент и чем отличается от чат-бота

Обычный вызов модели может завершиться одним текстовым ответом. Агент добавляет выбор следующего действия и обратную связь. Модель запрашивает инструмент, получает его результат в новом сообщении и решает, достаточно ли сведений для ответа.

Инструментом может быть поиск записи, чтение файла или расчёт. Его выполняет код, которому вы дали доступ. Текст «я проверил заказ» не доказывает обращения к базе: приложению нужен реальный результат функции. Отделяйте предложения модели от уже выполненных действий.

Историю между вызовами хранит приложение. Для Chat Completions передавайте нужные сообщения явно. Без них новый запрос не содержит результат прежнего инструмента. Если агент возобновляется после сбоя, восстановите также состояние действий, чтобы не выполнить повторно уже отправленное письмо или платёж.

Как собрать AI-агента с одним инструментом

Начните с действия, которое ничего не меняет. В учебном примере get_order читает условный словарь с одним заказом. У функции нет сети, доступа к файлам и произвольного исполнения кода. Модель gpt-5.6-sol есть в каталоге, где для неё отмечена поддержка инструментов.

Код рассчитан на установленный пакет openai. Он делает не больше трёх вызовов модели, отключает автоматические повторы SDK и останавливается при неизвестном инструменте или неверных аргументах.

python
import json
from openai import OpenAI

client = OpenAI(
    api_key="sk-demo-not-a-real-key",
    base_url="https://relay-llm.ru/v1",
    max_retries=0,
    timeout=30,
)
tools = [{
    "type": "function",
    "function": {
        "name": "get_order",
        "description": "Прочитать статус учебного заказа по номеру.",
        "parameters": {
            "type": "object",
            "properties": {"order_id": {"type": "string"}},
            "required": ["order_id"],
            "additionalProperties": False,
        },
    },
}]
orders = {"AB-17": "готов к выдаче"}
history = [
    {"role": "system", "content": "Узнай статус инструментом. Не придумывай статус."},
    {"role": "user", "content": "Какой статус заказа AB-17?"},
]
for step in range(3):
    response = client.chat.completions.create(
        model="gpt-5.6-sol", messages=history, tools=tools,
    )
    choice = response.choices[0]
    message = choice.message
    calls = message.tool_calls or []
    if not calls:
        if choice.finish_reason != "stop" or not message.content:
            raise RuntimeError("Нет завершённого ответа")
        print(message.content)
        break
    if step == 2:
        raise RuntimeError("Достигнут предел шагов")
    history.append(message.model_dump(exclude_none=True))
    for call in calls:
        if call.type != "function" or call.function.name != "get_order":
            raise ValueError("Инструмент запрещён")
        args = json.loads(call.function.arguments)
        if (not isinstance(args, dict) or set(args) != {"order_id"}
                or not isinstance(args["order_id"], str)):
            raise ValueError("Неверные аргументы")
        result = {"status": orders.get(args["order_id"], "не найден")}
        history.append({
            "role": "tool", "tool_call_id": call.id,
            "content": json.dumps(result, ensure_ascii=False),
        })

Вымышленный ключ замените чтением секрета из окружения серверного процесса. Сохраните пример в order_agent.py и запустите python3 order_agent.py. Учебные номер и статус не описывают реальный заказ.

GPT-5.6 Sol0,24 $ за 1 млн входных токенов

Сообщение assistant с вызовами добавляется в историю перед результатами. Для каждого вызова передаётся его собственный tool_call_id. Без этой связи следующий запрос может получить ошибку или потерять смысл результата. Формат API описан в руководстве Chat Completions.

Какие ограничения нужны перед рабочим запуском

Предел шагов ограничивает число обращений к модели, но не число инструментов внутри одного ответа. В рабочем агенте отдельно ограничьте общее число действий. Добавьте срок выполнения всей задачи: таймаут одного запроса не ограничивает сумму времени всех шагов.

Перед чтением настоящего заказа проверьте права текущего пользователя в коде. Разрешённое имя функции ещё не разрешает читать любой заказ. Схема аргументов задаёт форму входа, а проверку доступа выполняет приложение.

Для действий записи потребуется защита от повторного исполнения. После сетевого сбоя нельзя считать, что действие точно не состоялось. Сохраните идентификатор операции и её результат; повторная попытка должна сначала проверить это состояние. Учебный словарь таких требований не моделирует.

Как проверить агента и его расходы

Подмените ответы модели в тесте и проверьте четыре случая: завершённый ответ, неизвестный инструмент, неверные аргументы и бесконечный запрос действий. Отдельно проверьте несколько вызовов в одном сообщении. Цикл должен либо обработать каждый разрешённый вызов, либо остановиться без выполнения запрещённого.

Записывайте идентификатор задачи, номер шага, имя инструмента и x-request-id. Не сохраняйте ключ. Эти записи связывают действия приложения с историей запросов Relay, где можно проверить модель, токены и стоимость.

Создайте ключ для агента с дневным или общим лимитом. Все ключи используют баланс аккаунта; лимит помогает ограничить расход, но не заменяет остановку цикла. Учитывайте повторную передачу истории и результаты инструментов во входных токенах. Правила списания есть в документации оплаты, ставки на странице цен.

AI-агенту нужна специальная нейросеть?

Для показанного сценария нужна модель с поддержкой инструментов и подходящим протоколом. Проверьте её на своём наборе вызовов.

Где живёт память агента?

Историю и состояние задачи хранит приложение. В каждом запросе модель получает только переданные ей сведения.

Зачем проверять аргументы, если есть JSON Schema?

Ответ может нарушить схему. Даже корректные аргументы не подтверждают права пользователя на запрошенную запись.

Relay выполняет инструменты за приложение?

В примере Relay обслуживает запросы модели. Функцию get_order запускает ваш Python-код, который также решает, разрешён ли вызов.

Создать аккаунт

Модели из статьи

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.