Как выбрать OpenAI-compatible, Messages или Responses API
Relay принимает несколько форматов запросов. Выбирайте формат по клиенту, который уже есть в приложении, а не по названию модели. Один и тот же идентификатор модели сначала нужно сверить в каталоге, затем передать в подходящий маршрут.
Коротко
Для OpenAI-compatible клиента базовый адрес:
https://relay-llm.ru/v1.Для Anthropic Messages базовый адрес:
https://relay-llm.ruбез/v1.Идентификатор модели берите из каталога или
GET /v1/models.
Когда нужен Chat Completions
POST /v1/chat/completions подходит, когда клиент уже формирует массив messages с ролями. Это маршрут OpenAI-compatible API. Укажите заголовок Authorization: Bearer, идентификатор модели и сообщения.
curl "https://relay-llm.ru/v1/chat/completions" \
-H "Authorization: Bearer $RELAY_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"messages": [{"role": "user", "content": "Кратко объясни HTTP 429"}]
}'Полный набор полей и формат ответа описаны в документации Chat Completions. Для потокового ответа добавьте stream: true и обработайте события SSE, не пытаясь разобрать их как один JSON-документ.
Когда нужен Messages API
POST /v1/messages предназначен для клиентов Anthropic. Такой клиент сам добавляет путь /v1/messages, поэтому его base_url должен указывать на корень https://relay-llm.ru. В запросе нужны x-api-key, anthropic-version и max_tokens.
curl "https://relay-llm.ru/v1/messages" \
-H "x-api-key: $RELAY_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"max_tokens": 512,
"messages": [{"role": "user", "content": "Привет"}]
}'Маршрут и особенности совместимости собраны в документации Messages API. Перед запуском на конкретной модели проверьте на её странице поддерживаемый протокол.
Когда выбрать Responses API
POST /v1/responses удобен клиенту, который уже работает с объектом input и ответом output. Для OpenAI SDK базовый адрес остаётся https://relay-llm.ru/v1.
curl "https://relay-llm.ru/v1/responses" \
-H "Authorization: Bearer $RELAY_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MODEL_ID",
"input": "Составь план проверки API"
}'Relay не принимает previous_response_id со значением вида resp_... и background: true. Если библиотека добавляет эти поля автоматически, отключите их до отправки. Остальные параметры сверяйте с документацией Responses API.
Проверка перед переносом приложения
Сначала создайте отдельный ключ в кабинете. Затем возьмите один реальный идентификатор модели и выполните короткий запрос без потока. После успешного ответа добавляйте потоковую передачу, инструменты и собственные повторные попытки. Такой порядок отделяет ошибку адреса или авторизации от ошибки прикладной логики.
Можно ли отправлять Messages API на любой модели?
Нет. Откройте карточку модели и документацию её протокола перед первым запросом.
Где посмотреть список идентификаторов?
В каталоге и через GET https://relay-llm.ru/v1/models.