LangChain (Python) API: настройка и подключение
В LangChain для Python шлюз подключается классами ChatOpenAI (адрес с /) и ChatAnthropic (адрес без /).
- Тип: Фреймворк и SDK
- Протокол: OpenAI Chat Completions, Anthropic Messages
- Статус: Работает
Что заработает
| Возможность | Отметка | Примечание |
|---|---|---|
| Чат | Да | |
| Потоковый ответ | Да | |
| Вызов инструментов | Да | Работает у моделей с поддержкой инструментов. |
Настройка
Понадобятся ключ из раздела «Ключи» кабинета и идентификатор модели. В примерах подставлена модель gpt-5.6-luna; для протокола Anthropic Messages подставлена claude-haiku-5-5. Свою модель выбирайте в каталоге.
Клиенту нужен ключ. Задайте его в переменной окружения RELAY_API_KEY: примеры ниже читают ключ оттуда. Чтобы переменная сохранялась между сеансами, добавьте строку export в ~/ (bash: ~/, bash на macOS: ~/), в PowerShell вызовите [Environment]::SetEnvironmentVariable с областью User, в cmd выполните setx и откройте новое окно. Окно, открытое до setx, переменную не увидит.
Ключ в переменной окружения
macOS и Linux
read -rs RELAY_API_KEY && export RELAY_API_KEYWindows PowerShell
$env:RELAY_API_KEY = "YOUR_API_KEY"Windows cmd
set "RELAY_API_KEY=YOUR_API_KEY"- Установите
langchain-openai(илиlangchain-anthropic) и задайте ключ в переменнойRELAY_API_KEY. - Передайте
base_urlиapi_keyв конструктор. Модель укажите из каталога, в примереgpt-5.6-luna.
ChatOpenAI
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="gpt-5.6-luna",
base_url="https://relay-llm.ru/v1",
api_key=os.environ["RELAY_API_KEY"],
)
print(llm.invoke("ping").content)ChatAnthropic
import os
from langchain_anthropic import ChatAnthropic
llm = ChatAnthropic(
model="claude-haiku-5-5",
base_url="https://relay-llm.ru",
api_key=os.environ["RELAY_API_KEY"],
)
print(llm.invoke("ping").content)Проверка
Сначала проверьте ключ и адрес без клиента. В ответе должно быть is_active: true.
macOS и Linux
curl https://relay-llm.ru/v1/key \
-H "Authorization: Bearer $RELAY_API_KEY"Windows PowerShell
curl.exe https://relay-llm.ru/v1/key `
-H "Authorization: Bearer $env:RELAY_API_KEY"Windows cmd
curl https://relay-llm.ru/v1/key ^
-H "Authorization: Bearer %RELAY_API_KEY%"Затем проверьте сам клиент.
Запустите пример: он напечатает ответ модели. Запись видна в журнале запросов кабинета.
Запрос из клиента появится в журнале запросов кабинета с моделью, токенами и стоимостью.
Ограничения протоколов
OpenAI Chat Completions
Работают чат-модели каталога по пути /. Не поддерживаются /, /, /, /, Assistants и Realtime: функции клиента, которым они нужны, не заработают.
Anthropic Messages
Работают модели, которые принимают этот протокол. Модели GPT по пути / недоступны: шлюз не переводит протоколы друг в друга. Адрес для клиентов Anthropic указывается без /.
Ловушки
- LangChain читает переменную
OPENAI_API_BASE, а официальный SDK OpenAI читаетOPENAI_BASE_URL. Надёжнее передавать адрес параметром. ChatOpenAIреализует только официальную спецификацию OpenAI: нестандартные поля ответов сторонних провайдеров, например рассуждения, он не извлекает.- Для
ChatAnthropicадрес задаётся без/. Переменныеv1 ANTHROPIC_API_URLиANTHROPIC_BASE_URLтоже читаются.
Ссылки
Официальная документация: LangChain (Python) API: настройка и подключение
Подключение клиентов: общие сведения и все клиенты