Open WebUI API: подключение и настройка моделей
Open WebUI подключается к шлюзу как OpenAI-совместимый провайдер: адрес с / в переменной OPENAI_API_BASE_URL или в разделе Connections админки.
- Тип: Чат и настольное приложение
- Протокол: OpenAI Chat Completions
- Статус: Работает
Что заработает
| Возможность | Отметка | Примечание |
|---|---|---|
| Чат | Да | |
| Потоковый ответ | Да | |
| Эмбеддинги | Нет | У шлюза нет /v1/embeddings: RAG работает только со встроенными эмбеддингами. |
Настройка
Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.
Клиенту нужен ключ. Задайте его в переменной окружения RELAY_API_KEY: примеры ниже читают ключ оттуда. Чтобы переменная сохранялась между сеансами, добавьте строку export в ~/ (bash: ~/, bash на macOS: ~/), в PowerShell вызовите [Environment]::SetEnvironmentVariable с областью User, в cmd выполните setx и откройте новое окно. Окно, открытое до setx, переменную не увидит.
Ключ в переменной окружения
macOS и Linux
read -rs RELAY_API_KEY && export RELAY_API_KEYWindows PowerShell
$env:RELAY_API_KEY = "YOUR_API_KEY"Windows cmd
set "RELAY_API_KEY=YOUR_API_KEY"- Запустите Open WebUI в Docker с переменными из примера или добавьте подключение в админке.
- В админке откройте Settings, Admin Settings, Connections, Manage OpenAI API Connections, Add Connection.
- Введите адрес
https://, ключ и список идентификаторов моделей, напримерrelay-llm.ru/ v1 gpt-5.6-luna. - Выберите модель в чате.
Запуск в Docker
macOS и Linux
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL="https://relay-llm.ru/v1" \
-e OPENAI_API_KEY="$RELAY_API_KEY" \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:mainWindows PowerShell
docker run -d -p 3000:8080 `
-e OPENAI_API_BASE_URL="https://relay-llm.ru/v1" `
-e OPENAI_API_KEY="$env:RELAY_API_KEY" `
-v open-webui:/app/backend/data `
--name open-webui `
ghcr.io/open-webui/open-webui:mainWindows cmd
docker run -d -p 3000:8080 ^
-e OPENAI_API_BASE_URL="https://relay-llm.ru/v1" ^
-e OPENAI_API_KEY="%RELAY_API_KEY%" ^
-v open-webui:/app/backend/data ^
--name open-webui ^
ghcr.io/open-webui/open-webui:mainПоля подключения в админке
URL: https://relay-llm.ru/v1
API Key: YOUR_API_KEY
Model IDs: gpt-5.6-lunaПроверка
Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.
macOS и Linux
curl https://relay-llm.ru/v1/key \
-H "Authorization: Bearer $RELAY_API_KEY"Windows PowerShell
curl.exe https://relay-llm.ru/v1/key `
-H "Authorization: Bearer $env:RELAY_API_KEY"Windows cmd
curl https://relay-llm.ru/v1/key ^
-H "Authorization: Bearer %RELAY_API_KEY%"Затем проверьте сам клиент.
Откройте чат, выберите модель и отправьте «ping». Ответ пришёл, запись видна в журнале запросов кабинета.
Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.
Ограничения протоколов
OpenAI Chat Completions
Работают чат-модели каталога по пути /. Не поддерживаются /, /, /, /, Assistants и Realtime: функции клиента, которым они нужны, не заработают.
Ловушки
- Переменные окружения применяются только при первом запуске (PersistentConfig). Потом приоритет у значений из базы и админки. Если поменяли переменную, а поведение прежнее, правьте значение в админке.
- Список моделей берётся из
/. Если список пуст, добавьте идентификаторы в список вручную: чат при этом работает.v1/ models - В Docker вместо
localhostдля сервисов на хосте нуженhost.docker.internal. Адрес шлюза публичный, для него это не нужно. - Эмбеддинги для RAG не заработают: у шлюза нет
/. Выберите встроенную модель эмбеддингов Open WebUI.v1/ embeddings - Клиентом Anthropic Messages Open WebUI к шлюзу не станет: нативный режим Anthropic в документации не подтверждён.
Ссылки
Официальная документация: Open WebUI API: подключение и настройка моделей
Подключение клиентов: общие сведения и все клиенты