К содержимому

Аудитория

Разработчики API

206 статей

Модель Claude отключили: чеклист замены ID в проекте

Что делать, когда вендор отключил модель Claude: как Relay отвечает на старый ID, где искать забытые упоминания и как выбрать замену по каталогу.

Как сравнить LLM-модели на своих данных: набор из 20 примеров

Свой бенчмарк для LLM без лаборатории: 20 реальных примеров, критерий проверки, готовый скрипт под Relay и таблица с ценой прошедшего ответа.

Claude Sonnet 5 через API: на что его хватает

Что даёт Claude Sonnet 5 в каталоге Relay, как его вызвать, как найти в проекте идентификаторы, которых там нет, и какие задачи отдавать Opus.

Claude Opus 5 через API: когда флагман оправдан

Что такое Claude Opus 5 в каталоге Relay, на каких задачах он окупается, как вызвать его в Messages и Chat Completions и что делать с откатом на 4.8.

Claude Opus 4.8 или 5: какую версию закрепить

Сравниваем ревизии Claude Opus 4.6, 4.7, 4.8, 5 и 5.5 из каталога Relay: что ломается при смене версии, когда закреплять id и как откатиться.

Claude Sonnet или Opus: что выбрать под задачу

Как выбрать между Sonnet, Opus и недорогой моделью: три вопроса про цену ошибки, объём и длину цепочки, правило двух моделей и проверка на своих задачах.

Ошибки Claude API: 529, 500, 429, 400 и 401, что делать

Что значат 529, 500, 429, 400 и 401 в Claude API, какие повторять, а какие чинить. Как Relay отдаёт перегрузку модели и что менять в Claude Code.

Задержка LLM API: как измерить TTFT и сократить ожидание

Из чего складывается задержка LLM API, как измерить TTFT и скорость генерации на своём ключе и что сокращает ожидание: стриминг, кэш, короткий вывод.

Стриминг ответов Claude через SSE: код на TypeScript и Python

Как читать потоковый ответ Claude по SSE через Relay: формат событий Chat Completions и Messages, разбор на TypeScript и Python, ошибки в потоке.

Rate limits LLM API: RPM, TPM и лимиты ключа Relay

Какие лимиты бывают у LLM API, чем RPM отличается от TPM и что ограничивает ключ Relay. Как читать Retry-After и строить очередь запросов.

Юнит-экономика LLM-функции: сколько стоит один пользователь

Как посчитать себестоимость LLM-функции на пользователя: считайте по сессии, смотрите на перцентили, берите данные из журнала запросов и CSV Relay.

Как снизить стоимость LLM API: семь приёмов по порядку

Семь приёмов сократить расход на LLM API в порядке внедрения: от журнала запросов до кэша и повторов. У каждого указано, когда он не сработает.

Как установить Codex CLI на Windows, macOS и Linux

Установка Codex CLI скриптом, через npm, Homebrew или архив из GitHub Releases, проверка входа, разбор типичных ошибок и короткий путь к подключению через Relay.

Как получить API-ключ Claude: консоль Anthropic или Relay

Два пути к ключу для Claude: консоль Anthropic и кабинет Relay. Шаги создания, лимиты, проверка запросом и таблица: в какую переменную и какой клиент вставлять ключ.

Как подключить Codex CLI к API Relay

Настройка Codex CLI через Relay: model_providers в config.toml, base_url с /v1, API-ключ из переменной окружения и ограничения Responses API.

Как подключить Cursor к custom API Relay

Настройка Cursor через custom OpenAI API Relay: Override OpenAI Base URL, ключ, идентификатор модели, проверка чата и ограничения Agent mode.

Как подключить Open WebUI к API Relay

Настройка Open WebUI через Relay: OpenAI API Base URL, ключ, Docker, подключение в админке, список моделей и ограничения RAG без embeddings API.

Почему Base URL отличается для OpenAI и Anthropic

Разбираем базовый адрес Relay для двух протоколов: где нужен /v1, как SDK добавляет маршрут и почему двойной путь приводит к ошибке.

Claude Code через Gateway: диагностика подключения

Ищем причину ошибки Claude Code через Relay: проверяем Messages, окружение процесса и модели фоновых задач, затем сопоставляем запрос с журналом.

Claude Desktop не работает с API: что проверить

Проверяем Gateway в Claude Desktop: правильный экран настроек, адрес Messages, Bearer-авторизацию и модель. Объясняем отличие от Claude Code.