LangChain и LangGraph: выбор для цепочек и агентов
LangChain и LangGraph относятся к одной экосистеме, но дают разный уровень управления приложением. LangChain предоставляет интерфейсы моделей, интеграции и готовые средства для агентов. LangGraph позволяет явно описывать состояние и переходы процесса. Это не выбор «цепочки против агента»: агенты LangChain сами используют LangGraph. Для одного запроса хватит SDK; для стандартного агента можно взять LangChain; для собственного маршрута с ветвлениями и возобновлением стоит рассмотреть LangGraph.
Коротко
Выбирайте уровень управления по процессу, который уже можете описать.
LangGraph не требует использовать LangChain для вызова модели.
Relay предоставляет API; состояние, инструменты и сохранение выполняет приложение.
LangChain и LangGraph: что выбрать для задачи
Если нужно извлечь поля из документа и проверить их, начните с последовательности функций. Модель отвечает один раз, валидатор принимает или отклоняет результат. Граф добавит схему переходов, но сам по себе не улучшит извлечение. LangChain здесь полезен, если нужны его интеграции или единый интерфейс моделей.
Если агент выбирает инструмент и повторяет вызовы до ответа, готовый агент LangChain может сократить объём собственного кода. При этом инструменты и условия остановки всё равно выбираете вы. Подключение библиотеки не даёт приложению безопасных прав автоматически.
LangGraph уместен, когда переходы требуется контролировать явно: после поиска проверить источник, при нехватке сведений запросить уточнение, после подтверждения продолжить с сохранённого состояния. Такое требование касается устройства процесса, а не названия модели.
| Задача | С чего начать | Когда нужен следующий уровень |
|---|---|---|
| Один ответ модели | Прямой SDK | Нужны повторяемые интеграции и обработчики |
| Извлечение и проверка | Функции или компоненты LangChain | Появляются ветви и возврат к этапу |
| Агент с обычными инструментами | Готовый агент LangChain | Требуется собственная схема выполнения |
| Процесс с паузой и продолжением | LangGraph | Нужно определить хранение состояния и восстановление |
Как подключить Relay к LangChain
Для Python используется интеграция langchain_openai.ChatOpenAI. Параметры адреса, ключа и модели указаны явно. Пример предполагает, что пакет langchain-openai уже доступен в вашем окружении; он делает один текстовый запрос без инструментов.
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
base_url="https://relay-llm.ru/v1",
api_key="sk-demo-not-a-real-key",
model="qwen3.8-max",
max_retries=0,
timeout=60.0,
)
answer = llm.invoke([
("system", "Ответь одним коротким предложением."),
("human", "Что проверить перед повтором запроса к API?"),
])
print(answer.content)Адрес относится к OpenAI Chat Completions. Для клиента Anthropic нужны другой адаптер и адрес без /v1. Готовые варианты есть в интеграции LangChain Python, а возможности модели в каталоге Relay. Не меняйте только название класса, оставляя параметры другого протокола.
Если прямой вызов работает, добавляйте шаблон, парсер и инструменты по одному. При ошибке после подключения парсера сравните сырой ответ с ожидаемой схемой. Исправлять base URL в этот момент бессмысленно, если модель уже вернула текст.
Как описать состояние графа
Возьмём обработку обращения о возврате. Начальное состояние содержит ID обращения и вопрос. Узел поиска добавляет найденное правило. Узел проверки выбирает: подготовить ответ или передать обращение оператору. Финальный узел сохраняет черновик, не отправляя его клиенту автоматически.
Поля состояния должны выражать эти результаты: ticket_id, question, policy, draft, steps, status. Не храните секрет API в состоянии: оно может попасть в трассировку или сохранённую контрольную точку. Для каждого поля определите, какой узел имеет право его менять.
Задайте конечные состояния: черновик готов, нужен оператор, превышен предел шагов, инструмент недоступен. Если переход ведёт обратно к поиску, увеличьте счётчик и проверьте предел до нового запроса. Условие «искать, пока ответ не понравится модели» не задаёт конечного поведения.
Как проверить сохранение и повторы
Сначала запустите процесс с подставленными результатами модели и инструментов. Проверьте пустой поиск, неверный формат, отказ инструмента и достижение предела шагов. Эти тесты должны проверять итоговый статус и число вызовов, а не точную формулировку модельного ответа.
Если требуется продолжение после перезапуска, настройте сохранение состояния по руководству вашей версии LangGraph. Граф в памяти процесса не превращается в долговременное хранилище от одного наличия библиотеки. Проверьте остановку после сохранённого шага и восстановление без повторной отправки письма или другой записи.
У внешних действий должен быть собственный механизм защиты от дублей. Повтор узла после сбоя не должен второй раз оформлять возврат. Используйте ID операции и подтверждённое состояние внешнего сервиса; один счётчик шагов этого не решает.
Как сравнить расход двух реализаций
Возьмите одинаковые обращения, модель и правила принятия ответа. Для каждой реализации посчитайте вызовы, долю корректных черновиков и расход всех попыток. Если граф делает дополнительные проверки, их цена входит в результат вместе с пользой от найденных ошибок.
Создайте отдельный ключ пилота и найдите его вызовы в журнале. Ошибки 402 и 429 обрабатывайте по документации Relay. Тайм-аут не должен перезапускать весь процесс с первого узла, если уже выполненные действия можно проверить и продолжить.
LangChain и LangGraph обязательно использовать вместе?
Нет. LangGraph может вызывать модели через выбранный вами клиент. LangChain можно использовать через готовые компоненты, не проектируя собственный граф.
Что означает LangChain vs LangGraph для агента?
Это выбор уровня управления: готовые средства LangChain или явная схема состояния и переходов LangGraph. LangChain тоже умеет строить агентов.
Relay хранит состояние графа?
Нет, в описанном сценарии Relay обслуживает API-запросы модели. Состояние, инструменты и восстановление находятся в вашем приложении.