К содержимому
Блог

Open WebUI Windows: запуск в Docker и подключение Relay

Open WebUI Windows: запуск в Docker и подключение Relay

Open WebUI Windows позволяет открыть локальный чат и обращаться к моделям Relay через сервер Open WebUI. Для этого запустите интерфейс в Docker, добавьте OpenAI-совместимое подключение с адресом https://relay-llm.ru/v1 и ключом Relay, затем выберите текстовую модель. Загружать её веса на компьютер для этого сценария не нужно. Ниже порядок установки и проверки; инструменты, RAG и голос требуют отдельной настройки.

Как запустить Open WebUI Windows в Docker

Установите Docker Desktop по руководству для вашей Windows и запустите его. В PowerShell проверьте docker version: должны отвечать и клиент, и сервер Docker. Если сервер недоступен, настройка API ещё не поможет.

В официальной инструкции Open WebUI есть Docker-образ и каталог постоянных данных. Пример ниже открывает интерфейс только на локальном адресе компьютера. Команды выполняются в PowerShell; обратный апостроф переносит строку и должен быть последним символом строки.

powershell
$bytes = New-Object byte[] 32
$rng = [System.Security.Cryptography.RandomNumberGenerator]::Create()
$rng.GetBytes($bytes)
$rng.Dispose()
$env:WEBUI_SECRET_KEY = [Convert]::ToBase64String($bytes)

docker run -d --name relay-open-webui `
  -p 127.0.0.1:3000:8080 `
  -v relay-open-webui-data:/app/backend/data `
  -e WEBUI_SECRET_KEY `
  ghcr.io/open-webui/open-webui:main

Откройте localhost:3000, завершите первичную настройку. Том сохраняет настройки и диалоги при пересоздании контейнера. Для повторных развёртываний сохраните созданный WEBUI_SECRET_KEY в защищённом хранилище; это секрет самого интерфейса, а не API-ключ Relay. В рабочем окружении закрепите выбранный релиз вместо плавающего тега main.

Если порт занят, измените только локальный номер 3000 и адрес в браузере. Если контейнер не запускается, сначала прочитайте docker logs relay-open-webui. Не пересоздавайте его с удалением тома ради ошибки ключа: так можно потерять диалоги, не исправив подключение.

Как добавить ключ и адрес Relay

Создайте отдельный ключ в кабинете Relay и скопируйте секрет при создании. Разрешите одну текстовую модель для первого опыта и задайте лимит расходов. Баланс у обычных ключей общий; если им пользуются несколько приложений, лимиты помогают выделить бюджет интерфейсу.

Откройте административные настройки Open WebUI, затем Connections и список OpenAI API Connections. Добавьте URL https://relay-llm.ru/v1 и ключ Relay. Такой путь подключения описан в руководстве OpenAI-compatible. Названия полей сверяйте с установленным релизом.

Используйте серверное подключение. Режим Direct Connections устроен отдельно и отправляет запросы из браузера; для этого примера он не требуется. Не путайте ключ Relay с ключом самого Open WebUI, который клиент может выдавать для своего API. Они относятся к разным серверам.

Выберите, например, gpt-6-sol из каталога моделей. Не добавляйте /chat/completions к базовому URL: клиент формирует путь метода сам. Адрес браузера localhost:3000 тоже не подходит в качестве URL Relay.

Как проверить подключение до настройки чата

Из PowerShell выполните отдельный запрос. Сначала замените демонстрационный ключ своим. Пример явно кодирует тело в UTF-8, чтобы русский текст не зависел от версии PowerShell.

powershell
$env:RELAY_API_KEY = "sk-demo-not-a-real-key"
$headers = @{ Authorization = "Bearer $env:RELAY_API_KEY" }
$body = @{
  model = "gpt-6-sol"
  messages = @(@{ role = "user"; content = "Ответь словом: готово" })
} | ConvertTo-Json -Depth 4
$reply = Invoke-RestMethod -Method Post `
  -Uri "https://relay-llm.ru/v1/chat/completions" `
  -Headers $headers -ContentType "application/json; charset=utf-8" `
  -Body ([System.Text.Encoding]::UTF8.GetBytes($body))
$reply.choices[0].message.content

Успех подтверждает доступ из Windows, но не из Docker. Если этот запрос проходит, а Open WebUI получает сетевой таймаут, проверьте DNS, прокси и доступ контейнера к HTTPS. Не меняйте ключ, пока ошибка указывает на сеть.

Создайте новый пустой чат, выберите ту же модель и отправьте короткую фразу. После ответа проверьте журнал запросов Relay: модель, время, токены и стоимость. Не включайте сразу инструменты и документы, иначе не будет ясно, какой дополнительный запрос завершился ошибкой.

Почему список моделей не означает готовность всех функций

GET /v1/models возвращает каталог, но его наличие не подтверждает баланс и все возможности клиента. Ключ может иметь ограничения, модель может временно не отвечать, а запрос с инструментами отличается от простого текста. Сначала проверяйте конкретный сценарий.

У Relay нет /v1/embeddings, поэтому RAG с этим адресом как источником эмбеддингов не заработает. Источник эмбеддингов настройте отдельно по руководству Open WebUI. Голос, веб-поиск и чтение файлов тоже нельзя считать включёнными после одного ответа чата. Ограничения интеграции перечислены на странице Open WebUI.

Как найти причину ошибки

При 401 проверьте, что в серверном подключении сохранён именно ключ Relay. При 404 сравните URL и ID модели. При 400 изучите тело ошибки и дополнительные параметры чата. Если список пуст, проверьте источник подключения и запрос каталога; повторное создание аккаунта Relay здесь не требуется.

Длинный диалог может повторно отправляться в контекст и увеличивать расход. Для первого теста используйте пустой чат, затем отдельно проверьте рабочую историю. Модели и цены смотрите в каталоге, а параметры сообщений в документации API.

Open WebUI Windows требует видеокарту для Relay?

Для обращений к удалённому API веса модели на компьютере не запускаются. Компьютер обслуживает интерфейс и Docker; другие локальные функции могут иметь свои требования.

Как установить Open WebUI на Windows без Docker?

У проекта есть другие способы запуска. Сверьте их с руководством своего релиза; эта инструкция проверяет путь через Docker и серверное API-подключение.

Почему текстовый чат работает, а RAG нет?

Текстовая модель и источник эмбеддингов выполняют разные запросы. Relay не предоставляет embeddings; настройте другой источник для этой части RAG.

Создать аккаунт для Open WebUI

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.