К содержимому

Настройка клиентов LLM API: адрес, ключ и модель

Выберите клиент и следуйте инструкции.

Клиенты

Инструкции для 38 клиентов.

Протоколы и проверка

Отдельная страница на каждый клиент: что заработает, шаги настройки, готовый конфиг с вашим адресом, проверка, типичные ошибки и вопросы. Ниже список из 38 клиентов.

Откройте страницу клиента и выполните шаги сверху вниз. Адрес в примерах уже подставлен: https://relay-llm.ru/v1 для клиентов OpenAI и https://relay-llm.ru без /v1 для клиентов Anthropic.

Статус «Работает» означает, что настройка существует и описана в документации клиента. Колонка «Проверка» показывает, чем это подтверждено: контрактным тестом или только сверкой с документацией. Строки с пометкой «не проверено вручную» ни разу не запускались как живой клиент против шлюза.

GPT и протокол Anthropic: модели GPT недоступны по протоколу Anthropic Messages. Claude Code и Claude Desktop работают только с моделями Claude и другими, которым каталог отдаёт этот протокол. Для GPT используйте клиент с протоколом OpenAI.

Агент в терминале

КлиентПротоколСтатусПроверка
Claude CodeAnthropic MessagesРаботаетКонтрактный тест
OpenCodeOpenAI Chat CompletionsРаботаетЧастичная сверка
Codex CLIOpenAI ResponsesЧастичноСверка с документацией
AiderOpenAI Chat Completions, Anthropic MessagesРаботаетСверка с документацией
Gemini CLIGemini generateContentНе поддерживаетсяСверка с документацией
GooseOpenAI Chat CompletionsРаботаетСверка с документацией
DeepSeek HarnessOpenAI Chat Completions, OpenAI Responses, Anthropic MessagesРаботаетСверка с документацией
OpenClawOpenAI Chat CompletionsРаботаетСверка с документацией

Редактор и IDE

КлиентПротоколСтатусПроверка
CursorOpenAI Chat CompletionsЧастичноЧастичная сверка
ClineOpenAI Chat Completions, Anthropic MessagesРаботаетСверка с документацией
ContinueOpenAI Chat CompletionsРаботаетСверка с документацией
Roo CodeOpenAI Chat Completions, Anthropic MessagesРаботаетЧастичная сверка
ZedOpenAI Chat Completions, Anthropic MessagesРаботаетСверка с документацией
WindsurfOpenAI Chat CompletionsНе подтвержденоНе подтверждено
TraeOpenAI Chat Completions, Anthropic MessagesЧастичноЧастичная сверка
Kilo CodeOpenAI Chat Completions, OpenAI Responses, Anthropic MessagesРаботаетСверка с документацией
JetBrains AI AssistantOpenAI Chat CompletionsРаботаетЧастичная сверка
GitHub Copilot (VS Code)OpenAI Chat Completions, OpenAI Responses, Anthropic MessagesРаботаетСверка с документацией

Чат и настольное приложение

КлиентПротоколСтатусПроверка
Codex DesktopOpenAI ResponsesЧастичноСверка с документацией
WorkBuddyOpenAI Chat CompletionsРаботаетСверка с документацией
Claude DesktopAnthropic MessagesРаботаетСверка с документацией
Open WebUIOpenAI Chat CompletionsРаботаетСверка с документацией
LibreChatOpenAI Chat CompletionsРаботаетСверка с документацией
Cherry StudioOpenAI Chat Completions, Anthropic MessagesРаботаетСверка с документацией
ChatboxOpenAI Chat CompletionsЧастичноЧастичная сверка
LobeChatOpenAI Chat CompletionsЧастичноЧастичная сверка

Менеджер настроек

КлиентПротоколСтатусПроверка
CC SwitchAnthropic Messages, OpenAI Responses, OpenAI Chat CompletionsЧастичноЧастичная сверка

No-code платформа

КлиентПротоколСтатусПроверка
n8nOpenAI Chat Completions, Anthropic MessagesРаботаетСверка с документацией
DifyOpenAI Chat CompletionsРаботаетСверка с документацией
FlowiseOpenAI Chat CompletionsРаботаетСверка с документацией

Фреймворк и SDK

КлиентПротоколСтатусПроверка
OpenAI Agents SDKOpenAI Chat Completions, OpenAI ResponsesРаботаетСверка с документацией
Vercel AI SDKOpenAI Chat Completions, Anthropic MessagesРаботаетКонтрактный тест
LangChain (Python)OpenAI Chat Completions, Anthropic MessagesРаботаетСверка с документацией
LangChain (JavaScript)OpenAI Chat CompletionsРаботаетСверка с документацией
LlamaIndexOpenAI Chat CompletionsРаботаетСверка с документацией
Spring AIOpenAI Chat CompletionsЧастичноЧастичная сверка
Semantic Kernel (.NET)OpenAI Chat CompletionsРаботаетСверка с документацией
Microsoft.Extensions.AIOpenAI Chat CompletionsЧастичноЧастичная сверка

Базовый адрес и ключ

  • Базовый адрес: https://relay-llm.ru/v1
  • Переменная окружения: RELAY_API_KEY
  • Модель: MODEL_ID

Клиентам OpenAI нужен адрес https://relay-llm.ru/v1.

Клиентам Anthropic Messages нужен адрес https://relay-llm.ru без /v1.

Создайте ключ в кабинете, в разделе «Ключи». Храните его в переменной окружения RELAY_API_KEY на сервере, в коде браузера ключ не должен появляться.

В примерах MODEL_ID замените идентификатором модели из каталога: на странице модели он указан в строке «Идентификатор».

Не каждая модель доступна по обоим протоколам. Claude Code и Anthropic SDK работают с моделями, которые принимают протокол Anthropic Messages.

Примеры в кабинете после создания ключа подбираются под модели, доступные этому ключу.

Раздел «Ключи» кабинета: адрес API с кнопкой копирования, кнопка «Создать ключ» и таблица ключей с остатком лимита, расходом и статусомРаздел «Ключи»: здесь создают ключ и копируют адрес API. Полный ключ показывается один раз, при создании. На снимке тестовые данные.

Python

Подойдут официальные SDK OpenAI и Anthropic: в клиенте задаются адрес и ключ, остальной вызов такой же, как в документации SDK. Методы, которых у шлюза нет, работать не будут: поддерживаемые описаны в разделе API. Код читает ключ из переменной RELAY_API_KEY.

Установите пакет в то же окружение Python, из которого запускаете пример: python -m pip install openai.

OpenAI SDK

python
import os
from openai import OpenAI

client = OpenAI(base_url="https://relay-llm.ru/v1", api_key=os.environ['RELAY_API_KEY'])
reply = client.chat.completions.create(model="MODEL_ID", messages=[{"role": "user", "content": "ping"}])
print(reply.choices[0].message.content)

Anthropic SDK

python
import os
from anthropic import Anthropic

client = Anthropic(base_url="https://relay-llm.ru", api_key=os.environ['RELAY_API_KEY'])
reply = client.messages.create(model="MODEL_ID", max_tokens=256, messages=[{"role": "user", "content": "ping"}])
print(reply.content[0].text)

JavaScript

Серверный запрос через fetch. Переменная BASE_URL содержит адрес с /v1: https://relay-llm.ru/v1, а RELAY_API_KEY задаётся в окружении сервера.

ts
const response = await fetch(`${process.env.BASE_URL}/chat/completions`, {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.RELAY_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
    model: "MODEL_ID",
    messages: [{ role: 'user', content: 'Say hello in one sentence.' }],
  }),
})
const data = await response.json()
console.log(data.choices[0].message.content)

cURL

Команда спрашивает ключ без эха и передаёт его в curl через stdin: ключ не попадает в историю shell и в аргументы процесса.

bash
(
  set +x
  printf 'API key: ' >&2
  IFS= read -rs RELAY_API_KEY || exit
  printf '\n' >&2
  printf 'Authorization: Bearer %s\n' "$RELAY_API_KEY" |
    curl 'https://relay-llm.ru/v1/chat/completions' \
      -H @- \
      -H 'Content-Type: application/json' \
      -d '{
        "model": "MODEL_ID",
        "messages": [
          {
            "role": "user",
            "content": "ping"
          }
        ]
      }'
)

Проверка подключения

ПроверкаОжидаемый результат
GET /v1/models без ключа200 и список моделей
Запрос с неверным ключом401, код invalid_api_key
Первый запрос с верным ключомЗапись в журнале кабинета с токенами и стоимостью
Запрос, который выходит за лимит расходов ключа402, код key_limit_exceeded
Готовы? Три шага, чтобы начатьВойдите в консоль · пополните баланс · создайте API Key