Spring AI API: подключение и настройка моделей
Spring AI подключает шлюз свойствами spring.ai.openai.*. В документации адрес дан без /, но разные версии склеивают путь по-разному: проверьте реальный адрес в логе запроса.
- Тип: Фреймворк и SDK
- Протокол: OpenAI Chat Completions
- Статус: Частично
Что заработает
| Возможность | Отметка | Примечание |
|---|---|---|
| Чат | Да | |
| Потоковый ответ | Да | |
| Вызов инструментов | Да | Работает у моделей с поддержкой инструментов. |
Настройка
Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.
Клиенту нужен ключ. Задайте его в переменной окружения RELAY_API_KEY: примеры ниже читают ключ оттуда. Чтобы переменная сохранялась между сеансами, добавьте строку export в ~/ (bash: ~/, bash на macOS: ~/), в PowerShell вызовите [Environment]::SetEnvironmentVariable с областью User, в cmd выполните setx и откройте новое окно. Окно, открытое до setx, переменную не увидит.
Ключ в переменной окружения
macOS и Linux
read -rs RELAY_API_KEY && export RELAY_API_KEYWindows PowerShell
$env:RELAY_API_KEY = "YOUR_API_KEY"Windows cmd
set "RELAY_API_KEY=YOUR_API_KEY"- Добавьте стартер OpenAI и задайте ключ в переменной
RELAY_API_KEY. - Заполните
spring.ai.openai.base-url,api-keyи модель из каталога, в примереgpt-5.6-luna. - Включите журнал HTTP-клиента и убедитесь, что запрос уходит на
https://.relay-llm.ru/ v1/ chat/ completions
Свойства приложения
src/main/resources/application.properties
src\main\resources\application.properties
spring.ai.openai.base-url=https://relay-llm.ru
spring.ai.openai.api-key=${RELAY_API_KEY}
spring.ai.openai.chat.options.model=gpt-5.6-lunaПроверка
Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.
macOS и Linux
curl https://relay-llm.ru/v1/key \
-H "Authorization: Bearer $RELAY_API_KEY"Windows PowerShell
curl.exe https://relay-llm.ru/v1/key `
-H "Authorization: Bearer $env:RELAY_API_KEY"Windows cmd
curl https://relay-llm.ru/v1/key ^
-H "Authorization: Bearer %RELAY_API_KEY%"Затем проверьте сам клиент.
Выполните вызов чат-модели из приложения. В логе виден запрос на адрес шлюза, запись есть в журнале запросов кабинета.
Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.
Ограничения протоколов
OpenAI Chat Completions
Работают чат-модели каталога по пути /. Не поддерживаются /, /, /, /, Assistants и Realtime: функции клиента, которым они нужны, не заработают.
Ловушки
- Версия 1.x сама дописывает путь
/, поэтому адрес указан безv1/ chat/ completions /. Для версии 2.0.1 правило не подтверждено. Если в логе путь безv1 /, добавьте его в адрес.v1 - Параметр
temperatureне поддерживается у моделей gpt-5: не задавайте его. - Для модели Claude через Anthropic-стартер адрес задаётся без
/вv1 spring.ai.anthropic.base-url. Эту связку мы не проверяли.
Ссылки
Официальная документация: Spring AI API: подключение и настройка моделей
Подключение клиентов: общие сведения и все клиенты