Dify API: подключение и настройка моделей
В Dify шлюз подключается плагином OpenAI-API-compatible: адрес с /, ключ, имя модели и размер контекста.
- Тип: No-code платформа
- Протокол: OpenAI Chat Completions
- Статус: Работает
Что заработает
| Возможность | Отметка | Примечание |
|---|---|---|
| Чат | Да | |
| Потоковый ответ | Да | |
| Вызов инструментов | Частично | Включите вызов функций в настройках модели. |
| Эмбеддинги | Нет | У шлюза нет /v1/embeddings: модель эмбеддингов подключайте у другого провайдера. |
Настройка
Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.
- Откройте Integrations, Model Provider и установите плагин OpenAI-API-compatible.
- В Setup введите имя модели из каталога (
gpt-5.6-luna), ключ и API Base URLhttps://.relay-llm.ru/ v1 - Поднимите Model context size до значения из каталога и включите вызов функций, если модель его поддерживает.
Поля модели
Model Name: gpt-5.6-luna
API Key: YOUR_API_KEY
API Base URL: https://relay-llm.ru/v1
Model context size: 128000
Function calling: SupportedПроверка
Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.
macOS и Linux
curl https://relay-llm.ru/v1/key \
-H "Authorization: Bearer $RELAY_API_KEY"Windows PowerShell
curl.exe https://relay-llm.ru/v1/key `
-H "Authorization: Bearer $env:RELAY_API_KEY"Windows cmd
curl https://relay-llm.ru/v1/key ^
-H "Authorization: Bearer %RELAY_API_KEY%"Затем проверьте сам клиент.
Создайте простое приложение-чат, выберите модель и отправьте «ping». Запись видна в журнале запросов кабинета.
Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.
Ограничения протоколов
OpenAI Chat Completions
Работают чат-модели каталога по пути /. Не поддерживаются /, /, /, /, Assistants и Realtime: функции клиента, которым они нужны, не заработают.
Ловушки
- Размер контекста по умолчанию 4096. Поднимите вручную, иначе длинные запросы будут обрезаться.
- Без флага вызова функций агенты не вызывают инструменты.
- Режим Anthropic в Dify отдельный плагин с полем API URL: адрес без
/. Эту связку мы не проверяли.v1
Ссылки
Официальная документация: Dify API: подключение и настройка моделей
Подключение клиентов: общие сведения и все клиенты