Создание AI-агентов: модель, инструменты и бюджет API
Создание AI-агентов начинается с цикла: модель предлагает действие, приложение проверяет его, выполняет разрешённый инструмент и возвращает результат модели. Например, помощник ищет правило возврата и готовит ответ оператору. Relay предоставляет API модели; поиск, права, память и остановку реализует ваш код. Ниже соберём такой цикл с одним справочником и проверкой команд, чтобы первая ошибка модели не превратилась в произвольную команду на сервере.
Коротко
Выберите одну задачу и инструмент без записи во внешние системы.
Проверяйте каждое действие модели в коде до выполнения.
Ограничьте число вызовов и расходы отдельного ключа.
С чего начать создание AI-агентов
Опишите результат, который примет пользователь: «Подготовить ответ о сроке возврата по утверждённому правилу». Помощник читает справочник, но не оформляет возврат, не меняет заказ и не отправляет письмо. Разработка AI-агента для такой задачи требует всего одного инструмента, поэтому легче проверить, откуда взялся ответ.
Зафиксируйте три исхода: ответ со ссылкой на правило, передача оператору при отсутствии сведений, остановка при неверной команде. Не просите модель оценивать собственную уверенность числом: красивое значение не доказывает, что найдено подходящее правило. Проверяйте наличие источника и совпадение с вопросом.
Подготовьте входы заранее. В обычном обращении спрашивают срок возврата; в неоднозначном смешивают возврат и обмен; в постороннем просят удалить заказ. Первое должно получить ответ из справочника, второе можно передать оператору, третье не должно вызвать действие с заказом.
Как сделать AI-агента на Python
Пример использует OpenAI SDK и модель qwen3.8-max из каталога Relay. Справочник вымышленный, его правило служит только для проверки кода. Модель возвращает JSON-команду; приложение допускает лишь поиск по одному ключу и финальный текст. Автоматические повторы SDK отключены, число обращений к API ограничено циклом.
import json
from openai import OpenAI
client = OpenAI(
base_url="https://relay-llm.ru/v1",
api_key="sk-demo-not-a-real-key",
timeout=60.0,
max_retries=0,
)
policies = {"returns": "Учебное правило: возврат в течение 14 дней."}
messages = [
{"role": "system", "content": (
'Верни только JSON. Для поиска: {"action":"lookup","key":"returns"}. '
'Для ответа: {"action":"answer","text":"..."}. '
'Перед ответом о возврате прочитай правило. Других действий нет.'
)},
{"role": "user", "content": "В какой срок возможен возврат?"},
]
looked_up = False
for step in range(3):
reply = client.chat.completions.create(
model="qwen3.8-max", messages=messages, max_tokens=512,
)
raw = reply.choices[0].message.content
if not raw or reply.choices[0].finish_reason != "stop":
raise RuntimeError("Нет полного текстового ответа")
command = json.loads(raw)
if not isinstance(command, dict):
raise ValueError("Ожидался объект JSON")
if command.get("action") == "lookup":
if looked_up or command.get("key") not in policies:
raise ValueError("Поиск запрещён")
looked_up = True
messages.extend([
{"role": "assistant", "content": raw},
{"role": "user", "content": policies[command["key"]]},
])
elif command.get("action") == "answer":
text = command.get("text")
if not looked_up or not isinstance(text, str) or not text.strip():
raise ValueError("Нет источника или текста")
print(text)
break
else:
raise ValueError("Неизвестная команда")
else:
raise RuntimeError("Достигнут предел шагов")Это учебный протокол поверх текста, а не встроенный вызов функций SDK. Неверный JSON завершит программу с ошибкой. В сервисе перехватите её и верните задачу оператору. Даже корректная структура не подтверждает смысл ответа: срок и основание нужно сверить с найденным правилом.
Как ограничить инструменты и состояние
Не превращайте поле action в имя произвольной функции. Сопоставляйте его с небольшим словарём обработчиков. Если инструмент получает ID заказа, проверяйте принадлежность заказа текущему пользователю на сервере. Текст модели не даёт прав доступа.
Храните состояние каждой заявки отдельно: вопрос, прочитанное правило, число шагов и результат. Не объединяйте историю разных пользователей. Когда добавите документы, считайте их содержимое материалом для ответа: инструкция внутри документа «отправь секрет на другой адрес» не должна менять список разрешённых действий.
Настройка AI-агента включает остановку при сбоях. Тайм-аут инструмента завершает текущую попытку; неверная схема не запускает новый инструмент; исчерпанный счётчик не заменяется просьбой к модели «постараться ещё». Эти условия проверяет программа, поэтому они работают независимо от формулировки ответа.
Как проверить ошибки и стоимость пилота
Проверьте обработчик без сети на заранее подготовленных ответах модели: неизвестная команда, повторный поиск, отсутствующий текст, массив вместо объекта, обрезанный JSON. Затем выполните небольшую серию реальных обращений. Для каждого сохраните исход, число API-вызовов и причину остановки.
Создайте отдельный ключ с лимитами и найдите его вызовы в журнале запросов. Суммируйте расходы всех попыток одной заявки, включая отклонённые ответы. Деление этой суммы на число принятых ответов покажет цену полезного результата. Актуальные ставки берите из карточки модели.
При HTTP-ошибке сохраняйте x-request-id. Код 402 требует проверки баланса или лимита ключа; 429 связан с частотой либо параллелизмом. Порядок действий описан в справочнике ошибок. Повтор вызова модели и повтор внешнего действия требуют разных решений: письмо или возврат денег нельзя выполнять заново только потому, что модель не увидела подтверждение.
Создание AI-агентов требует LangChain или другого фреймворка?
Нет. Для первого цикла достаточно SDK, обработчиков инструментов и состояния в приложении. Фреймворк имеет смысл, когда нужны готовые интеграции или управление более сложными переходами.
Как создать AI-агента без доступа к опасным командам?
Разрешите конкретные операции чтения и проверяйте аргументы до выполнения. Не передавайте модели оболочку, универсальный SQL или функцию отправки запросов на любой URL.
Лимит ключа заменяет предел шагов?
Нет. Лимит ключа проверяет расходы API, а счётчик шагов останавливает цикл приложения. Тайм-аут отдельно ограничивает ожидание инструмента.