К содержимому

LibreChat API: подключение и настройка моделей

LibreChat подключает шлюз как собственное подключение в файле librechat.yaml. Адрес указывается с /v1, ключ подставляется из .env.

  • Тип: Чат и настольное приложение
  • Протокол: OpenAI Chat Completions
  • Статус: Работает
  • Версия при сверке: 0.8
Настройки сверены с официальной документацией клиента, 2026-10-02. Не проверено вручную: запуск клиента против шлюза не выполнялся.

Что заработает

ВозможностьОтметкаПримечание
ЧатДа
Потоковый ответДа

Настройка

Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.

  1. Добавьте ключ в файл .env рядом с проектом LibreChat.
  2. Добавьте в librechat.yaml блок endpoints.custom из примера: baseURL с /v1 и список моделей, в примере gpt-5.6-luna.
  3. Перезапустите LibreChat и выберите подключение Gateway в списке.

Подключение в librechat.yaml

librechat.yaml

text
endpoints:
  custom:
    - name: "Gateway"
      apiKey: "${RELAY_API_KEY}"
      baseURL: "https://relay-llm.ru/v1"
      models:
        default: ["gpt-5.6-luna"]
        fetch: true
      titleConvo: true
      titleModel: "gpt-5.6-luna"

Ключ в .env

.env

text
RELAY_API_KEY=YOUR_API_KEY

Проверка

Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.

macOS и Linux

bash
curl https://relay-llm.ru/v1/key \
  -H "Authorization: Bearer $RELAY_API_KEY"

Windows PowerShell

bash
curl.exe https://relay-llm.ru/v1/key `
  -H "Authorization: Bearer $env:RELAY_API_KEY"

Windows cmd

bash
curl https://relay-llm.ru/v1/key ^
  -H "Authorization: Bearer %RELAY_API_KEY%"

Затем проверьте сам клиент.

Откройте чат, выберите подключение Gateway и модель, отправьте «ping». Запись видна в журнале кабинета.

Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.

Ограничения протоколов

OpenAI Chat Completions

Работают чат-модели каталога по пути /v1/chat/completions. Не поддерживаются /v1/embeddings, /v1/audio/*, /v1/moderations, /v1/batches, Assistants и Realtime: функции клиента, которым они нужны, не заработают.

Ловушки

  • Собственное подключение отбрасывается целиком, если нет любого из полей name, baseURL, apiKey, models.
  • Если шлюз отвергает лишние параметры вроде stop или frequency_penalty, перечислите их в dropParams.
  • Поле provider: anthropic по описанию включает протокол Anthropic Messages. Это не проверено: для шлюза берите режим OpenAI.
  • Значение fetch: true подтягивает список моделей из /v1/models. Если вы перечислили модели вручную, оно не нужно.

Официальная документация: LibreChat API: подключение и настройка моделей

Подключение клиентов: общие сведения и все клиенты

Обработка ошибок и повторы

Модели и ключ: список моделей в API

Ключи в кабинете

Готовы? Три шага, чтобы начатьВойдите в консоль · пополните баланс · создайте API Key