К содержимому

OpenAI Compatible API: совместимость протоколов

Шлюз сохраняет форматы OpenAI и Anthropic, но часть поведения отличается от исходных сервисов.

Что поддержано

Поддерживаются Chat Completions, Messages, Responses, подсчёт токенов, список моделей, генерация изображений и видео, а также сведения о ключе через GET /v1/key; возможности параметров зависят от выбранной модели.

Отличия шлюза

Шлюз подменяет в ответе поле model и идентификаторы: там то, что вы отправили. Он не хранит ответы для previous_response_id. Заголовки x-ratelimit-* шлюз ставит сам на ответы запросов к моделям, включая 429: это его лимиты, а не лимиты модели. На служебных методах (count_tokens, список моделей, GET /v1/key, статус видео, файлы) и на ошибках, отклонённых до проверки лимита, их нет. Idempotency-Key и X-Idempotency-Key до модели не доходят, повтор запроса остаётся самостоятельным запросом.

Лимиты запросов

Запросы из браузера

Шлюз отвечает на предварительный запрос OPTIONS кодом 204, если в нём есть заголовок Access-Control-Request-Method, и разрешает методы GET, POST и OPTIONS с любого источника без куки. Разрешены заголовки authorization, x-api-key, content-type, anthropic-version, anthropic-beta, openai-beta и запрошенные браузером x-stainless-*, ответ на предварительный запрос кэшируется на 10 минут. Скрипт в браузере читает из ответа только x-request-id и x-route, поэтому Retry-After, x-ratelimit-* и x-should-retry ему недоступны. Ключ в браузерный код всё равно не кладут: его увидит любой посетитель страницы.

Что не поддерживается

Не поддерживаются embeddings, audio, moderations, batches (в том числе /v1/messages/batches), Assistants, Realtime, /v1/completions, /v1/images/edits, /v1/images/variations, OpenAI /v1/files и методы Gemini. Такие пути отвечают 404 с кодом not_found и текстом Unknown path, а известный путь с неподходящим методом получает ответ 405 с кодом invalid_request.

Храните ключ в секрете

Ключ передавайте только через переменные окружения. Полный ключ не вставляйте в браузерный код, логи и сообщения поддержки.
Готовы? Три шага, чтобы начатьВойдите в консоль · пополните баланс · создайте API Key