К содержимому

Аудитория

Разработчики API

206 статей

Как управлять историей чата и размером контекста

Готовим историю чата для Relay API: сохраняем нужные сообщения и инструментальные пары, контролируем размер контекста и не повторяем лишние документы.

Cursor не отвечает через API: порядок проверки

Проверяем подключение Cursor к Relay отдельно от Agent mode: адрес API, выбранную модель, ключ и журнал запроса. Собираем диагностику без секретов.

Как проверять JSON-ответ LLM перед использованием

Проверяем JSON от модели: отделяем формат ответа от бизнес-правил, обрабатываем пустой и неполный результат, не исполняем неподтверждённые действия.

Как разделить настройки LLM API для dev и prod

Разделяем ключи и конфигурацию Relay для разработки и рабочего сервиса. Проверяем окружение процесса, безопасный запуск и перенос настроек при деплое.

Как ограничить параллельные запросы к LLM API

Строим ограниченную очередь запросов к Relay: управляем параллельностью, временем ожидания и повторами, чтобы всплеск нагрузки не превращался в лавину ошибок.

Как перенести приложение с OpenAI SDK на Relay

Переносим OpenAI-совместимое приложение на Relay: меняем адрес и ключ, сверяем модель, проверяем ответ, streaming и ограничения совместимости.

API-ключ попал в Git или чат: порядок замены

Меняем раскрытый API-ключ Relay: отзываем доступ, проверяем места использования и обновляем конфигурацию приложений. Объясняем, почему удалить файл недостаточно.

Как выбрать действующий идентификатор модели API

Как сверить идентификатор модели с публичным каталогом Relay, найти тип модели и не оставить в коде снятую ревизию.

Как разобраться с ошибкой авторизации API-ключа

Проверяем переменную окружения, заголовок авторизации и настройки клиента Relay. Объясняем, какие сведения нужны поддержке без отправки ключа.

Первый запрос к LLM API через cURL

Проверяем ключ Relay, выбираем модель из действующего каталога и отправляем короткий запрос через cURL. Разбираем ответ без SDK и редактора.

Что записывать в логи LLM API и отправлять поддержке

Собираем полезную диагностику запросов Relay: время, модель, статус и request_id. Исключаем ключи, Cookie и лишние пользовательские данные из логов.

Потоковый ответ LLM: завершение, обрыв и отмена

Разбираем состояния потокового ответа: первые фрагменты, штатное завершение, отмену и обрыв. Показываем, почему частичный текст нельзя считать полным ответом.

Function calling: как безопасно выполнить tool call

Разделяем предложение модели и исполнение инструмента. Проверяем аргументы tool call, права пользователя и повторные действия до вызова внешней системы.

Как подключить Claude Desktop к Relay Gateway

Пошаговая настройка Claude Desktop через Relay Gateway: Developer Mode, Third-Party Inference, адрес без /v1, Bearer-ключ и выбор модели Claude.

Claude Code на Windows: настройка API Relay

Инструкция для Windows: переменные PowerShell, адрес Relay без /v1, выбор модели Claude, settings.json и проверка Claude Code через API.

Claude Code, Cursor или Codex CLI: что выбрать

Сравниваем Claude Code, Cursor и Codex CLI для работы через Relay: протоколы, адреса, типовые задачи, проверенные сценарии и известные ограничения.

Как подключить Claude Code к API через Relay

Пошаговая настройка Claude Code через Relay: адрес Anthropic API, ключ, выбор модели Claude, settings.json и проверка первого запроса.

API-ключ или подписка: что выбрать разработчику

Чем API-ключ отличается от подписки на чат-приложение: автоматизация, доступ в IDE и CLI, управление ключами, контроль запросов и безопасный старт.

Ошибка 429 в LLM API: как работать с Retry-After

Разбираем причины HTTP 429 в Relay, чтение Retry-After, безопасный повтор запроса и данные, которые нужны для диагностики.

Как выбрать OpenAI-compatible, Messages или Responses API

Сравниваем три формата запросов Relay: базовые адреса, маршруты и способ выбрать протокол для существующего клиента.