К содержимому

cURL LLM API: запросы и обработка ошибок

cURL подходит для проверки адреса и протокола без SDK.

Установка

Установите клиент в проекте и передайте ключ через переменную RELAY_API_KEY среды.

curl

bash
curl --version
export RELAY_API_KEY="..."

curl.exe

bash
curl.exe --version
$env:RELAY_API_KEY = "..."

Первый запрос

Задайте адрес, ключ и идентификатор модели, затем прочитайте текст ответа.

OpenAI Chat

bash
curl https://relay-llm.ru/v1/chat/completions \
  -H "Authorization: Bearer $RELAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-luna",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Anthropic Messages

bash
curl https://relay-llm.ru/v1/messages \
  -H "x-api-key: $RELAY_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-haiku-5-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Потоковый ответ

Поток показывает текст по мере генерации и сохраняет usage, если протокол его отдаёт.

OpenAI Chat

bash
curl -N https://relay-llm.ru/v1/chat/completions \
  -H "Authorization: Bearer $RELAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-luna",
    "stream": true,
    "stream_options": {"include_usage": true},
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Anthropic Messages

bash
curl -N https://relay-llm.ru/v1/messages \
  -H "x-api-key: $RELAY_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-haiku-5-5",
    "max_tokens": 256,
    "stream": true,
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Вызов инструмента

Пример делает первый запрос с описанием функции, передаёт результат инструмента и получает финальный ответ.

OpenAI Chat

bash
curl https://relay-llm.ru/v1/chat/completions \
  -H "Authorization: Bearer $RELAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-luna",
    "tools": [{"type": "function", "function": {
      "name": "get_weather",
      "description": "Current weather in a city",
      "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                     "required": ["city"]}
    }}],
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Anthropic Messages

bash
curl https://relay-llm.ru/v1/messages \
  -H "x-api-key: $RELAY_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-haiku-5-5",
    "max_tokens": 256,
    "tools": [{
      "name": "get_weather",
      "description": "Current weather in a city",
      "input_schema": {"type": "object", "properties": {"city": {"type": "string"}},
                       "required": ["city"]}
    }],
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Ошибки и повторы

Клиент использует ограниченное число повторов и выводит идентификатор запроса при ошибке.

bash
headers=$(mktemp)
body=$(mktemp)
trap 'rm -f "$headers" "$body"' EXIT
retries=0
while :; do
  if ! curl -sS -D "$headers" -o "$body" https://relay-llm.ru/v1/chat/completions \
  -H "Authorization: Bearer $RELAY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-luna",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'
  then
    cat "$headers" "$body"
    exit 1
  fi
  cat "$headers" "$body"
  should_retry=$(
    awk -F ': ' '
      tolower($1) == "x-should-retry" { print tolower($2); exit }
    ' "$headers" | tr -d '\r'
  )
  retry_after=$(
    awk -F ': ' '
      tolower($1) == "retry-after" { print $2; exit }
    ' "$headers" | tr -d '\r'
  )
  if [ "$should_retry" != "true" ] || [ "$retries" -ge 3 ]; then
    break
  fi
  retries=$((retries + 1))
  case "$retry_after" in
    "" | *[!0-9]*) retry_after=1 ;;
  esac
  sleep "$retry_after"
done

Проверка ключа

GET /v1/key проверяет ключ и показывает его ограничения без списания.

OpenAI Chat

bash
curl https://relay-llm.ru/v1/key \
  -H "Authorization: Bearer $RELAY_API_KEY"

Anthropic Messages

bash
curl https://relay-llm.ru/v1/key \
  -H "x-api-key: $RELAY_API_KEY"
Исполняемые варианты: 9 из 11.
Готовы? Три шага, чтобы начатьВойдите в консоль · пополните баланс · создайте API Key