LibreChat API: подключение и настройка моделей
LibreChat подключает шлюз как собственное подключение в файле librechat.yaml. Адрес указывается с /, ключ подставляется из .env.
- Тип: Чат и настольное приложение
- Протокол: OpenAI Chat Completions
- Статус: Работает
- Версия при сверке: 0.8
Что заработает
| Возможность | Отметка | Примечание |
|---|---|---|
| Чат | Да | |
| Потоковый ответ | Да |
Настройка
Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.
- Добавьте ключ в файл
.envрядом с проектом LibreChat. - Добавьте в
librechat.yamlблокendpoints.customиз примера:baseURLс/и список моделей, в примереv1 gpt-5.6-luna. - Перезапустите LibreChat и выберите подключение Gateway в списке.
Подключение в librechat.yaml
librechat.yaml
endpoints:
custom:
- name: "Gateway"
apiKey: "${RELAY_API_KEY}"
baseURL: "https://relay-llm.ru/v1"
models:
default: ["gpt-5.6-luna"]
fetch: true
titleConvo: true
titleModel: "gpt-5.6-luna"Ключ в .env
.env
RELAY_API_KEY=YOUR_API_KEYПроверка
Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.
macOS и Linux
curl https://relay-llm.ru/v1/key \
-H "Authorization: Bearer $RELAY_API_KEY"Windows PowerShell
curl.exe https://relay-llm.ru/v1/key `
-H "Authorization: Bearer $env:RELAY_API_KEY"Windows cmd
curl https://relay-llm.ru/v1/key ^
-H "Authorization: Bearer %RELAY_API_KEY%"Затем проверьте сам клиент.
Откройте чат, выберите подключение Gateway и модель, отправьте «ping». Запись видна в журнале кабинета.
Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.
Ограничения протоколов
OpenAI Chat Completions
Работают чат-модели каталога по пути /. Не поддерживаются /, /, /, /, Assistants и Realtime: функции клиента, которым они нужны, не заработают.
Ловушки
- Собственное подключение отбрасывается целиком, если нет любого из полей
name,baseURL,apiKey,models. - Если шлюз отвергает лишние параметры вроде
stopилиfrequency_penalty, перечислите их вdropParams. - Поле
provider: anthropicпо описанию включает протокол Anthropic Messages. Это не проверено: для шлюза берите режим OpenAI. - Значение
fetch: trueподтягивает список моделей из/. Если вы перечислили модели вручную, оно не нужно.v1/ models
Ссылки
Официальная документация: LibreChat API: подключение и настройка моделей
Подключение клиентов: общие сведения и все клиенты