К содержимому

Vercel AI SDK API: подключение и настройка моделей

Для шлюза в Vercel AI SDK подойдёт провайдер @ai-sdk/openai-compatible: он проверен контрактным тестом. Провайдер @ai-sdk/anthropic берёт адрес с /v1, в отличие от официальных SDK Anthropic.

  • Тип: Фреймворк и SDK
  • Протокол: OpenAI Chat Completions, Anthropic Messages
  • Статус: Работает
  • Версия при сверке: 7.0.113
Проверено контрактным тестом на стенде, 2026-10-02.

Что заработает

ВозможностьОтметкаПримечание
ЧатДа
Потоковый ответДа
Вызов инструментовДа
Картинки на входеДа

Настройка

Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.

Клиенту нужен ключ. Задайте его в переменной окружения RELAY_API_KEY: примеры ниже читают ключ оттуда. Чтобы переменная сохранялась между сеансами, добавьте строку export в ~/.zshrc (bash: ~/.bashrc, bash на macOS: ~/.bash_profile), в PowerShell вызовите [Environment]::SetEnvironmentVariable с областью User, в cmd выполните setx и откройте новое окно. Окно, открытое до setx, переменную не увидит.

Ключ в переменной окружения

macOS и Linux

bash
read -rs RELAY_API_KEY && export RELAY_API_KEY

Windows PowerShell

bash
$env:RELAY_API_KEY = "YOUR_API_KEY"

Windows cmd

bash
set "RELAY_API_KEY=YOUR_API_KEY"
  1. Установите пакеты ai и @ai-sdk/openai-compatible и задайте ключ в переменной RELAY_API_KEY.
  2. Создайте провайдера с baseURL https://relay-llm.ru/v1 и вызовите модель из каталога, в примере gpt-5.6-luna.

Провайдер openai-compatible

ts
import { createOpenAICompatible } from '@ai-sdk/openai-compatible'
import { generateText } from 'ai'

const gateway = createOpenAICompatible({
  name: 'gateway',
  baseURL: 'https://relay-llm.ru/v1',
  apiKey: process.env.RELAY_API_KEY,
})
const { text } = await generateText({ model: gateway('gpt-5.6-luna'), prompt: 'ping' })
console.log(text)

Провайдер Anthropic

ts
import { createAnthropic } from '@ai-sdk/anthropic'
import { generateText } from 'ai'

const anthropic = createAnthropic({
  baseURL: 'https://relay-llm.ru/v1',
  authToken: process.env.RELAY_API_KEY,
})
const { text } = await generateText({ model: anthropic('claude-haiku-5-5'), prompt: 'ping' })
console.log(text)

Проверка

Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.

macOS и Linux

bash
curl https://relay-llm.ru/v1/key \
  -H "Authorization: Bearer $RELAY_API_KEY"

Windows PowerShell

bash
curl.exe https://relay-llm.ru/v1/key `
  -H "Authorization: Bearer $env:RELAY_API_KEY"

Windows cmd

bash
curl https://relay-llm.ru/v1/key ^
  -H "Authorization: Bearer %RELAY_API_KEY%"

Затем проверьте сам клиент.

Запустите пример: он напечатает ответ модели. Запись видна в журнале запросов кабинета.

Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.

Ограничения протоколов

OpenAI Chat Completions

Работают чат-модели каталога по пути /v1/chat/completions. Не поддерживаются /v1/embeddings, /v1/audio/*, /v1/moderations, /v1/batches, Assistants и Realtime: функции клиента, которым они нужны, не заработают.

Anthropic Messages

Работают модели, которые принимают этот протокол. Модели GPT по пути /v1/messages недоступны: шлюз не переводит протоколы друг в друга. Адрес для клиентов Anthropic указывается без /v1.

Ловушки

  • @ai-sdk/openai для openai("id") по умолчанию ходит в Responses. Для Chat Completions берите openai.chat("id") или провайдер openai-compatible.
  • createAnthropic принимает baseURL с /v1: https://relay-llm.ru/v1. Официальные SDK Anthropic берут адрес без /v1, не путайте.
  • Параметр apiKey уходит как заголовок x-api-key, параметр authToken как Bearer. Шлюз принимает оба. Задавайте один из двух.
  • Через Anthropic-провайдер работают только модели, которые принимают протокол Anthropic Messages. Модели GPT по нему недоступны.

Официальная документация: Vercel AI SDK API: подключение и настройка моделей

Подключение клиентов: общие сведения и все клиенты

Обработка ошибок и повторы

Модели и ключ: список моделей в API

Ключи в кабинете

Готовы? Три шага, чтобы начатьВойдите в консоль · пополните баланс · создайте API Key