К содержимому
Блог

Создание AI-агентов: модель, инструменты и бюджет API

Создание AI-агентов: модель, инструменты и бюджет API

Создание AI-агентов начинается с цикла: модель предлагает действие, приложение проверяет его, выполняет разрешённый инструмент и возвращает результат модели. Например, помощник ищет правило возврата и готовит ответ оператору. Relay предоставляет API модели; поиск, права, память и остановку реализует ваш код. Ниже соберём такой цикл с одним справочником и проверкой команд, чтобы первая ошибка модели не превратилась в произвольную команду на сервере.

Коротко

  • Выберите одну задачу и инструмент без записи во внешние системы.

  • Проверяйте каждое действие модели в коде до выполнения.

  • Ограничьте число вызовов и расходы отдельного ключа.

С чего начать создание AI-агентов

Опишите результат, который примет пользователь: «Подготовить ответ о сроке возврата по утверждённому правилу». Помощник читает справочник, но не оформляет возврат, не меняет заказ и не отправляет письмо. Разработка AI-агента для такой задачи требует всего одного инструмента, поэтому легче проверить, откуда взялся ответ.

Зафиксируйте три исхода: ответ со ссылкой на правило, передача оператору при отсутствии сведений, остановка при неверной команде. Не просите модель оценивать собственную уверенность числом: красивое значение не доказывает, что найдено подходящее правило. Проверяйте наличие источника и совпадение с вопросом.

Подготовьте входы заранее. В обычном обращении спрашивают срок возврата; в неоднозначном смешивают возврат и обмен; в постороннем просят удалить заказ. Первое должно получить ответ из справочника, второе можно передать оператору, третье не должно вызвать действие с заказом.

Как сделать AI-агента на Python

Пример использует OpenAI SDK и модель qwen3.8-max из каталога Relay. Справочник вымышленный, его правило служит только для проверки кода. Модель возвращает JSON-команду; приложение допускает лишь поиск по одному ключу и финальный текст. Автоматические повторы SDK отключены, число обращений к API ограничено циклом.

python
import json
from openai import OpenAI

client = OpenAI(
    base_url="https://relay-llm.ru/v1",
    api_key="sk-demo-not-a-real-key",
    timeout=60.0,
    max_retries=0,
)
policies = {"returns": "Учебное правило: возврат в течение 14 дней."}
messages = [
    {"role": "system", "content": (
        'Верни только JSON. Для поиска: {"action":"lookup","key":"returns"}. '
        'Для ответа: {"action":"answer","text":"..."}. '
        'Перед ответом о возврате прочитай правило. Других действий нет.'
    )},
    {"role": "user", "content": "В какой срок возможен возврат?"},
]
looked_up = False
for step in range(3):
    reply = client.chat.completions.create(
        model="qwen3.8-max", messages=messages, max_tokens=512,
    )
    raw = reply.choices[0].message.content
    if not raw or reply.choices[0].finish_reason != "stop":
        raise RuntimeError("Нет полного текстового ответа")
    command = json.loads(raw)
    if not isinstance(command, dict):
        raise ValueError("Ожидался объект JSON")
    if command.get("action") == "lookup":
        if looked_up or command.get("key") not in policies:
            raise ValueError("Поиск запрещён")
        looked_up = True
        messages.extend([
            {"role": "assistant", "content": raw},
            {"role": "user", "content": policies[command["key"]]},
        ])
    elif command.get("action") == "answer":
        text = command.get("text")
        if not looked_up or not isinstance(text, str) or not text.strip():
            raise ValueError("Нет источника или текста")
        print(text)
        break
    else:
        raise ValueError("Неизвестная команда")
else:
    raise RuntimeError("Достигнут предел шагов")

Это учебный протокол поверх текста, а не встроенный вызов функций SDK. Неверный JSON завершит программу с ошибкой. В сервисе перехватите её и верните задачу оператору. Даже корректная структура не подтверждает смысл ответа: срок и основание нужно сверить с найденным правилом.

Qwen 3.8 Max1,86 $ за 1 млн входных токенов

Как ограничить инструменты и состояние

Не превращайте поле action в имя произвольной функции. Сопоставляйте его с небольшим словарём обработчиков. Если инструмент получает ID заказа, проверяйте принадлежность заказа текущему пользователю на сервере. Текст модели не даёт прав доступа.

Храните состояние каждой заявки отдельно: вопрос, прочитанное правило, число шагов и результат. Не объединяйте историю разных пользователей. Когда добавите документы, считайте их содержимое материалом для ответа: инструкция внутри документа «отправь секрет на другой адрес» не должна менять список разрешённых действий.

Настройка AI-агента включает остановку при сбоях. Тайм-аут инструмента завершает текущую попытку; неверная схема не запускает новый инструмент; исчерпанный счётчик не заменяется просьбой к модели «постараться ещё». Эти условия проверяет программа, поэтому они работают независимо от формулировки ответа.

Как проверить ошибки и стоимость пилота

Проверьте обработчик без сети на заранее подготовленных ответах модели: неизвестная команда, повторный поиск, отсутствующий текст, массив вместо объекта, обрезанный JSON. Затем выполните небольшую серию реальных обращений. Для каждого сохраните исход, число API-вызовов и причину остановки.

Создайте отдельный ключ с лимитами и найдите его вызовы в журнале запросов. Суммируйте расходы всех попыток одной заявки, включая отклонённые ответы. Деление этой суммы на число принятых ответов покажет цену полезного результата. Актуальные ставки берите из карточки модели.

При HTTP-ошибке сохраняйте x-request-id. Код 402 требует проверки баланса или лимита ключа; 429 связан с частотой либо параллелизмом. Порядок действий описан в справочнике ошибок. Повтор вызова модели и повтор внешнего действия требуют разных решений: письмо или возврат денег нельзя выполнять заново только потому, что модель не увидела подтверждение.

Создание AI-агентов требует LangChain или другого фреймворка?

Нет. Для первого цикла достаточно SDK, обработчиков инструментов и состояния в приложении. Фреймворк имеет смысл, когда нужны готовые интеграции или управление более сложными переходами.

Как создать AI-агента без доступа к опасным командам?

Разрешите конкретные операции чтения и проверяйте аргументы до выполнения. Не передавайте модели оболочку, универсальный SQL или функцию отправки запросов на любой URL.

Лимит ключа заменяет предел шагов?

Нет. Лимит ключа проверяет расходы API, а счётчик шагов останавливает цикл приложения. Тайм-аут отдельно ограничивает ожидание инструмента.

Создать ключ для первого агента

Модели из статьи

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.