К содержимому
Блог

Как выбрать OpenAI-compatible, Messages или Responses API

Как выбрать OpenAI-compatible, Messages или Responses API

Relay принимает несколько форматов запросов. Выбирайте формат по клиенту, который уже есть в приложении, а не по названию модели. Один и тот же идентификатор модели сначала нужно сверить в каталоге, затем передать в подходящий маршрут.

Коротко

  • Для OpenAI-compatible клиента базовый адрес: https://relay-llm.ru/v1.

  • Для Anthropic Messages базовый адрес: https://relay-llm.ru без /v1.

  • Идентификатор модели берите из каталога или GET /v1/models.

Когда нужен Chat Completions

POST /v1/chat/completions подходит, когда клиент уже формирует массив messages с ролями. Это маршрут OpenAI-compatible API. Укажите заголовок Authorization: Bearer, идентификатор модели и сообщения.

bash
curl "https://relay-llm.ru/v1/chat/completions" \
  -H "Authorization: Bearer $RELAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "messages": [{"role": "user", "content": "Кратко объясни HTTP 429"}]
  }'

Полный набор полей и формат ответа описаны в документации Chat Completions. Для потокового ответа добавьте stream: true и обработайте события SSE, не пытаясь разобрать их как один JSON-документ.

Когда нужен Messages API

POST /v1/messages предназначен для клиентов Anthropic. Такой клиент сам добавляет путь /v1/messages, поэтому его base_url должен указывать на корень https://relay-llm.ru. В запросе нужны x-api-key, anthropic-version и max_tokens.

bash
curl "https://relay-llm.ru/v1/messages" \
  -H "x-api-key: $RELAY_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "max_tokens": 512,
    "messages": [{"role": "user", "content": "Привет"}]
  }'

Маршрут и особенности совместимости собраны в документации Messages API. Перед запуском на конкретной модели проверьте на её странице поддерживаемый протокол.

Когда выбрать Responses API

POST /v1/responses удобен клиенту, который уже работает с объектом input и ответом output. Для OpenAI SDK базовый адрес остаётся https://relay-llm.ru/v1.

bash
curl "https://relay-llm.ru/v1/responses" \
  -H "Authorization: Bearer $RELAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MODEL_ID",
    "input": "Составь план проверки API"
  }'

Relay не принимает previous_response_id со значением вида resp_... и background: true. Если библиотека добавляет эти поля автоматически, отключите их до отправки. Остальные параметры сверяйте с документацией Responses API.

Проверка перед переносом приложения

Сначала создайте отдельный ключ в кабинете. Затем возьмите один реальный идентификатор модели и выполните короткий запрос без потока. После успешного ответа добавляйте потоковую передачу, инструменты и собственные повторные попытки. Такой порядок отделяет ошибку адреса или авторизации от ошибки прикладной логики.

Можно ли отправлять Messages API на любой модели?

Нет. Откройте карточку модели и документацию её протокола перед первым запросом.

Где посмотреть список идентификаторов?

В каталоге и через GET https://relay-llm.ru/v1/models.

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.