Настройка клиентов LLM API: адрес, ключ и модель
Выберите клиент и следуйте инструкции.
Клиенты
Инструкции для 38 клиентов.
Протоколы и проверка
Отдельная страница на каждый клиент: что заработает, шаги настройки, готовый конфиг с вашим адресом, проверка, типичные ошибки и вопросы. Ниже список из 38 клиентов.
Откройте страницу клиента и выполните шаги сверху вниз. Адрес в примерах уже подставлен: https:// для клиентов OpenAI и https:// без / для клиентов Anthropic.
Статус «Работает» означает, что настройка существует и описана в документации клиента. Колонка «Проверка» показывает, чем это подтверждено: контрактным тестом или только сверкой с документацией. Строки с пометкой «не проверено вручную» ни разу не запускались как живой клиент против шлюза.
GPT и протокол Anthropic: модели GPT недоступны по протоколу Anthropic Messages. Claude Code и Claude Desktop работают только с моделями Claude и другими, которым каталог отдаёт этот протокол. Для GPT используйте клиент с протоколом OpenAI.
Агент в терминале
| Клиент | Протокол | Статус | Проверка |
|---|---|---|---|
| Claude Code | Anthropic Messages | Работает | Контрактный тест |
| OpenCode | OpenAI Chat Completions | Работает | Частичная сверка |
| Codex CLI | OpenAI Responses | Частично | Сверка с документацией |
| Aider | OpenAI Chat Completions, Anthropic Messages | Работает | Сверка с документацией |
| Gemini CLI | Gemini generateContent | Не поддерживается | Сверка с документацией |
| Goose | OpenAI Chat Completions | Работает | Сверка с документацией |
| DeepSeek Harness | OpenAI Chat Completions, OpenAI Responses, Anthropic Messages | Работает | Сверка с документацией |
| OpenClaw | OpenAI Chat Completions | Работает | Сверка с документацией |
Редактор и IDE
| Клиент | Протокол | Статус | Проверка |
|---|---|---|---|
| Cursor | OpenAI Chat Completions | Частично | Частичная сверка |
| Cline | OpenAI Chat Completions, Anthropic Messages | Работает | Сверка с документацией |
| Continue | OpenAI Chat Completions | Работает | Сверка с документацией |
| Roo Code | OpenAI Chat Completions, Anthropic Messages | Работает | Частичная сверка |
| Zed | OpenAI Chat Completions, Anthropic Messages | Работает | Сверка с документацией |
| Windsurf | OpenAI Chat Completions | Не подтверждено | Не подтверждено |
| Trae | OpenAI Chat Completions, Anthropic Messages | Частично | Частичная сверка |
| Kilo Code | OpenAI Chat Completions, OpenAI Responses, Anthropic Messages | Работает | Сверка с документацией |
| JetBrains AI Assistant | OpenAI Chat Completions | Работает | Частичная сверка |
| GitHub Copilot (VS Code) | OpenAI Chat Completions, OpenAI Responses, Anthropic Messages | Работает | Сверка с документацией |
Чат и настольное приложение
| Клиент | Протокол | Статус | Проверка |
|---|---|---|---|
| Codex Desktop | OpenAI Responses | Частично | Сверка с документацией |
| WorkBuddy | OpenAI Chat Completions | Работает | Сверка с документацией |
| Claude Desktop | Anthropic Messages | Работает | Сверка с документацией |
| Open WebUI | OpenAI Chat Completions | Работает | Сверка с документацией |
| LibreChat | OpenAI Chat Completions | Работает | Сверка с документацией |
| Cherry Studio | OpenAI Chat Completions, Anthropic Messages | Работает | Сверка с документацией |
| Chatbox | OpenAI Chat Completions | Частично | Частичная сверка |
| LobeChat | OpenAI Chat Completions | Частично | Частичная сверка |
Менеджер настроек
| Клиент | Протокол | Статус | Проверка |
|---|---|---|---|
| CC Switch | Anthropic Messages, OpenAI Responses, OpenAI Chat Completions | Частично | Частичная сверка |
No-code платформа
| Клиент | Протокол | Статус | Проверка |
|---|---|---|---|
| n8n | OpenAI Chat Completions, Anthropic Messages | Работает | Сверка с документацией |
| Dify | OpenAI Chat Completions | Работает | Сверка с документацией |
| Flowise | OpenAI Chat Completions | Работает | Сверка с документацией |
Фреймворк и SDK
| Клиент | Протокол | Статус | Проверка |
|---|---|---|---|
| OpenAI Agents SDK | OpenAI Chat Completions, OpenAI Responses | Работает | Сверка с документацией |
| Vercel AI SDK | OpenAI Chat Completions, Anthropic Messages | Работает | Контрактный тест |
| LangChain (Python) | OpenAI Chat Completions, Anthropic Messages | Работает | Сверка с документацией |
| LangChain (JavaScript) | OpenAI Chat Completions | Работает | Сверка с документацией |
| LlamaIndex | OpenAI Chat Completions | Работает | Сверка с документацией |
| Spring AI | OpenAI Chat Completions | Частично | Частичная сверка |
| Semantic Kernel (.NET) | OpenAI Chat Completions | Работает | Сверка с документацией |
| Microsoft.Extensions.AI | OpenAI Chat Completions | Частично | Частичная сверка |
Базовый адрес и ключ
- Базовый адрес:
https://relay-llm.ru/ v1 - Переменная окружения:
RELAY_API_KEY - Модель:
MODEL_ID
Клиентам OpenAI нужен адрес https://.
Клиентам Anthropic Messages нужен адрес https:// без /.
Создайте ключ в кабинете, в разделе «Ключи». Храните его в переменной окружения RELAY_API_KEY на сервере, в коде браузера ключ не должен появляться.
В примерах MODEL_ID замените идентификатором модели из каталога: на странице модели он указан в строке «Идентификатор».
Не каждая модель доступна по обоим протоколам. Claude Code и Anthropic SDK работают с моделями, которые принимают протокол Anthropic Messages.
Примеры в кабинете после создания ключа подбираются под модели, доступные этому ключу.
Раздел «Ключи»: здесь создают ключ и копируют адрес API. Полный ключ показывается один раз, при создании. На снимке тестовые данные.
Python
Подойдут официальные SDK OpenAI и Anthropic: в клиенте задаются адрес и ключ, остальной вызов такой же, как в документации SDK. Методы, которых у шлюза нет, работать не будут: поддерживаемые описаны в разделе API. Код читает ключ из переменной RELAY_API_KEY.
Установите пакет в то же окружение Python, из которого запускаете пример: python -m pip install openai.
OpenAI SDK
import os
from openai import OpenAI
client = OpenAI(base_url="https://relay-llm.ru/v1", api_key=os.environ['RELAY_API_KEY'])
reply = client.chat.completions.create(model="MODEL_ID", messages=[{"role": "user", "content": "ping"}])
print(reply.choices[0].message.content)Anthropic SDK
import os
from anthropic import Anthropic
client = Anthropic(base_url="https://relay-llm.ru", api_key=os.environ['RELAY_API_KEY'])
reply = client.messages.create(model="MODEL_ID", max_tokens=256, messages=[{"role": "user", "content": "ping"}])
print(reply.content[0].text)JavaScript
Серверный запрос через fetch. Переменная BASE_URL содержит адрес с /: https://, а RELAY_API_KEY задаётся в окружении сервера.
const response = await fetch(`${process.env.BASE_URL}/chat/completions`, {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.RELAY_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
model: "MODEL_ID",
messages: [{ role: 'user', content: 'Say hello in one sentence.' }],
}),
})
const data = await response.json()
console.log(data.choices[0].message.content)cURL
Команда спрашивает ключ без эха и передаёт его в curl через stdin: ключ не попадает в историю shell и в аргументы процесса.
(
set +x
printf 'API key: ' >&2
IFS= read -rs RELAY_API_KEY || exit
printf '\n' >&2
printf 'Authorization: Bearer %s\n' "$RELAY_API_KEY" |
curl 'https://relay-llm.ru/v1/chat/completions' \
-H @- \
-H 'Content-Type: application/json' \
-d '{
"model": "MODEL_ID",
"messages": [
{
"role": "user",
"content": "ping"
}
]
}'
)Проверка подключения
| Проверка | Ожидаемый результат |
|---|---|
| GET /v1/models без ключа | 200 и список моделей |
| Запрос с неверным ключом | 401, код invalid_api_key |
| Первый запрос с верным ключом | Запись в журнале кабинета с токенами и стоимостью |
| Запрос, который выходит за лимит расходов ключа | 402, код key_limit_exceeded |