К содержимому

Блог

Статьи о Claude Code, Codex, AI-агентах для кода и контроле расходов на LLM.

Стриминг ответов Claude через SSE: код на TypeScript и Python

Как читать потоковый ответ Claude по SSE через Relay: формат событий Chat Completions и Messages, разбор на TypeScript и Python, ошибки в потоке.

Rate limits LLM API: RPM, TPM и лимиты ключа Relay

Какие лимиты бывают у LLM API, чем RPM отличается от TPM и что ограничивает ключ Relay. Как читать Retry-After и строить очередь запросов.

Юнит-экономика LLM-функции: сколько стоит один пользователь

Как посчитать себестоимость LLM-функции на пользователя: считайте по сессии, смотрите на перцентили, берите данные из журнала запросов и CSV Relay.

Расход на AI-агентов: откуда он берётся и как поставить потолок

Почему счёт за агента растёт быстрее числа шагов и как ограничить расход: отдельный ключ, лимиты в долларах, список моделей и проверка остатка.

Как снизить стоимость LLM API: семь приёмов по порядку

Семь приёмов сократить расход на LLM API в порядке внедрения: от журнала запросов до кэша и повторов. У каждого указано, когда он не сработает.

Как установить Codex CLI на Windows, macOS и Linux

Установка Codex CLI скриптом, через npm, Homebrew или архив из GitHub Releases, проверка входа, разбор типичных ошибок и короткий путь к подключению через Relay.

Команды Claude Code: флаги, слеш-команды и горячие клавиши

Шпаргалка по Claude Code: команды запуска, флаги для скриптов и CI (-p, --max-turns, --max-budget-usd), слеш-команды сессии, клавиши и где искать документацию.

Как установить Claude Code: официальные способы и проверка

Пять официальных способов поставить Claude Code на macOS, Linux и Windows, проверка командами claude --version и claude doctor, затем подключение к Relay.

Как получить API-ключ Claude: консоль Anthropic или Relay

Два пути к ключу для Claude: консоль Anthropic и кабинет Relay. Шаги создания, лимиты, проверка запросом и таблица: в какую переменную и какой клиент вставлять ключ.

Как подключить Codex CLI к API Relay

Настройка Codex CLI через Relay: model_providers в config.toml, base_url с /v1, API-ключ из переменной окружения и ограничения Responses API.

Как подключить Cursor к custom API Relay

Настройка Cursor через custom OpenAI API Relay: Override OpenAI Base URL, ключ, идентификатор модели, проверка чата и ограничения Agent mode.

Как подключить Open WebUI к API Relay

Настройка Open WebUI через Relay: OpenAI API Base URL, ключ, Docker, подключение в админке, список моделей и ограничения RAG без embeddings API.

Почему Base URL отличается для OpenAI и Anthropic

Разбираем базовый адрес Relay для двух протоколов: где нужен /v1, как SDK добавляет маршрут и почему двойной путь приводит к ошибке.

Claude Code через Gateway: диагностика подключения

Ищем причину ошибки Claude Code через Relay: проверяем Messages, окружение процесса и модели фоновых задач, затем сопоставляем запрос с журналом.

Claude Desktop не работает с API: что проверить

Проверяем Gateway в Claude Desktop: правильный экран настроек, адрес Messages, Bearer-авторизацию и модель. Объясняем отличие от Claude Code.

Как управлять историей чата и размером контекста

Готовим историю чата для Relay API: сохраняем нужные сообщения и инструментальные пары, контролируем размер контекста и не повторяем лишние документы.

Cursor не отвечает через API: порядок проверки

Проверяем подключение Cursor к Relay отдельно от Agent mode: адрес API, выбранную модель, ключ и журнал запроса. Собираем диагностику без секретов.

Как проверять JSON-ответ LLM перед использованием

Проверяем JSON от модели: отделяем формат ответа от бизнес-правил, обрабатываем пустой и неполный результат, не исполняем неподтверждённые действия.

Как разделить настройки LLM API для dev и prod

Разделяем ключи и конфигурацию Relay для разработки и рабочего сервиса. Проверяем окружение процесса, безопасный запуск и перенос настроек при деплое.

Как ограничить параллельные запросы к LLM API

Строим ограниченную очередь запросов к Relay: управляем параллельностью, временем ожидания и повторами, чтобы всплеск нагрузки не превращался в лавину ошибок.