К содержимому

Тег

Первый запрос

110 статей

Как подключить Open WebUI к API Relay

Настройка Open WebUI через Relay: OpenAI API Base URL, ключ, Docker, подключение в админке, список моделей и ограничения RAG без embeddings API.

Почему Base URL отличается для OpenAI и Anthropic

Разбираем базовый адрес Relay для двух протоколов: где нужен /v1, как SDK добавляет маршрут и почему двойной путь приводит к ошибке.

Claude Code через Gateway: диагностика подключения

Ищем причину ошибки Claude Code через Relay: проверяем Messages, окружение процесса и модели фоновых задач, затем сопоставляем запрос с журналом.

Claude Desktop не работает с API: что проверить

Проверяем Gateway в Claude Desktop: правильный экран настроек, адрес Messages, Bearer-авторизацию и модель. Объясняем отличие от Claude Code.

Как управлять историей чата и размером контекста

Готовим историю чата для Relay API: сохраняем нужные сообщения и инструментальные пары, контролируем размер контекста и не повторяем лишние документы.

Cursor не отвечает через API: порядок проверки

Проверяем подключение Cursor к Relay отдельно от Agent mode: адрес API, выбранную модель, ключ и журнал запроса. Собираем диагностику без секретов.

Как проверять JSON-ответ LLM перед использованием

Проверяем JSON от модели: отделяем формат ответа от бизнес-правил, обрабатываем пустой и неполный результат, не исполняем неподтверждённые действия.

Как разделить настройки LLM API для dev и prod

Разделяем ключи и конфигурацию Relay для разработки и рабочего сервиса. Проверяем окружение процесса, безопасный запуск и перенос настроек при деплое.

Как ограничить параллельные запросы к LLM API

Строим ограниченную очередь запросов к Relay: управляем параллельностью, временем ожидания и повторами, чтобы всплеск нагрузки не превращался в лавину ошибок.

Как перенести приложение с OpenAI SDK на Relay

Переносим OpenAI-совместимое приложение на Relay: меняем адрес и ключ, сверяем модель, проверяем ответ, streaming и ограничения совместимости.

API-ключ попал в Git или чат: порядок замены

Меняем раскрытый API-ключ Relay: отзываем доступ, проверяем места использования и обновляем конфигурацию приложений. Объясняем, почему удалить файл недостаточно.

Как выбрать действующий идентификатор модели API

Как сверить идентификатор модели с публичным каталогом Relay, найти тип модели и не оставить в коде снятую ревизию.

Как разобраться с ошибкой авторизации API-ключа

Проверяем переменную окружения, заголовок авторизации и настройки клиента Relay. Объясняем, какие сведения нужны поддержке без отправки ключа.

Первый запрос к LLM API через cURL

Проверяем ключ Relay, выбираем модель из действующего каталога и отправляем короткий запрос через cURL. Разбираем ответ без SDK и редактора.

Что записывать в логи LLM API и отправлять поддержке

Собираем полезную диагностику запросов Relay: время, модель, статус и request_id. Исключаем ключи, Cookie и лишние пользовательские данные из логов.

Потоковый ответ LLM: завершение, обрыв и отмена

Разбираем состояния потокового ответа: первые фрагменты, штатное завершение, отмену и обрыв. Показываем, почему частичный текст нельзя считать полным ответом.

Function calling: как безопасно выполнить tool call

Разделяем предложение модели и исполнение инструмента. Проверяем аргументы tool call, права пользователя и повторные действия до вызова внешней системы.

Как подключить Claude Desktop к Relay Gateway

Пошаговая настройка Claude Desktop через Relay Gateway: Developer Mode, Third-Party Inference, адрес без /v1, Bearer-ключ и выбор модели Claude.

Claude Code на Windows: настройка API Relay

Инструкция для Windows: переменные PowerShell, адрес Relay без /v1, выбор модели Claude, settings.json и проверка Claude Code через API.

Claude Code, Cursor или Codex CLI: что выбрать

Сравниваем Claude Code, Cursor и Codex CLI для работы через Relay: протоколы, адреса, типовые задачи, проверенные сценарии и известные ограничения.