Vercel AI SDK API: подключение и настройка моделей
Для шлюза в Vercel AI SDK подойдёт провайдер @ai-sdk/: он проверен контрактным тестом. Провайдер @ai-sdk/ берёт адрес с /, в отличие от официальных SDK Anthropic.
- Тип: Фреймворк и SDK
- Протокол: OpenAI Chat Completions, Anthropic Messages
- Статус: Работает
- Версия при сверке: 7.0.113
Что заработает
| Возможность | Отметка | Примечание |
|---|---|---|
| Чат | Да | |
| Потоковый ответ | Да | |
| Вызов инструментов | Да | |
| Картинки на входе | Да |
Настройка
Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.
Клиенту нужен ключ. Задайте его в переменной окружения RELAY_API_KEY: примеры ниже читают ключ оттуда. Чтобы переменная сохранялась между сеансами, добавьте строку export в ~/ (bash: ~/, bash на macOS: ~/), в PowerShell вызовите [Environment]::SetEnvironmentVariable с областью User, в cmd выполните setx и откройте новое окно. Окно, открытое до setx, переменную не увидит.
Ключ в переменной окружения
macOS и Linux
read -rs RELAY_API_KEY && export RELAY_API_KEYWindows PowerShell
$env:RELAY_API_KEY = "YOUR_API_KEY"Windows cmd
set "RELAY_API_KEY=YOUR_API_KEY"- Установите пакеты
aiи@ai-sdk/и задайте ключ в переменнойopenai-compatible RELAY_API_KEY. - Создайте провайдера с
baseURLhttps://и вызовите модель из каталога, в примереrelay-llm.ru/ v1 gpt-5.6-luna.
Провайдер openai-compatible
import { createOpenAICompatible } from '@ai-sdk/openai-compatible'
import { generateText } from 'ai'
const gateway = createOpenAICompatible({
name: 'gateway',
baseURL: 'https://relay-llm.ru/v1',
apiKey: process.env.RELAY_API_KEY,
})
const { text } = await generateText({ model: gateway('gpt-5.6-luna'), prompt: 'ping' })
console.log(text)Провайдер Anthropic
import { createAnthropic } from '@ai-sdk/anthropic'
import { generateText } from 'ai'
const anthropic = createAnthropic({
baseURL: 'https://relay-llm.ru/v1',
authToken: process.env.RELAY_API_KEY,
})
const { text } = await generateText({ model: anthropic('claude-haiku-5-5'), prompt: 'ping' })
console.log(text)Проверка
Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.
macOS и Linux
curl https://relay-llm.ru/v1/key \
-H "Authorization: Bearer $RELAY_API_KEY"Windows PowerShell
curl.exe https://relay-llm.ru/v1/key `
-H "Authorization: Bearer $env:RELAY_API_KEY"Windows cmd
curl https://relay-llm.ru/v1/key ^
-H "Authorization: Bearer %RELAY_API_KEY%"Затем проверьте сам клиент.
Запустите пример: он напечатает ответ модели. Запись видна в журнале запросов кабинета.
Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.
Ограничения протоколов
OpenAI Chat Completions
Работают чат-модели каталога по пути /. Не поддерживаются /, /, /, /, Assistants и Realtime: функции клиента, которым они нужны, не заработают.
Anthropic Messages
Работают модели, которые принимают этот протокол. Модели GPT по пути / недоступны: шлюз не переводит протоколы друг в друга. Адрес для клиентов Anthropic указывается без /.
Ловушки
@ai-sdk/дляopenai openai("id")по умолчанию ходит в Responses. Для Chat Completions беритеopenai.chat("id")или провайдерopenai-compatible.createAnthropicпринимаетbaseURLс/:v1 https://. Официальные SDK Anthropic берут адрес безrelay-llm.ru/ v1 /, не путайте.v1 - Параметр
apiKeyуходит как заголовокx-api-key, параметрauthTokenкак Bearer. Шлюз принимает оба. Задавайте один из двух. - Через Anthropic-провайдер работают только модели, которые принимают протокол Anthropic Messages. Модели GPT по нему недоступны.
Ссылки
Официальная документация: Vercel AI SDK API: подключение и настройка моделей
Подключение клиентов: общие сведения и все клиенты