К содержимому
Блог

Как проверять JSON-ответ LLM перед использованием

Как проверять JSON-ответ LLM перед использованием

Если ответ модели будет читать программа, проверьте его JSON-парсером и схемой до использования. Корректный JSON подтверждает синтаксис, но не разрешает действие и не доказывает правдивость значений.

Проверьте поддержку выбранной модели

Форматированный вывод и обычная просьба «ответь JSON» не равнозначны. Перед передачей параметров режима проверьте свойства модели в каталоге Relay и поддерживаемый контракт в матрице совместимости.

Не переносите response_format или другой параметр между протоколами по памяти. Сверьте запрос с нужным маршрутом: Chat Completions или Responses. Если режим не подтверждён, не обещайте приложению гарантированную схему.

Примените свою схему

Опишите обязательные поля, типы, допустимые значения и ограничения длины. Решите, что делать с неизвестными полями. Проверяйте числа и даты как данные, а не как строки, которые «выглядят правдоподобно».

Например, результат классификации может содержать допустимую категорию и краткое пояснение. Сервер должен отклонить неизвестную категорию. Наличие поля approved: true в ответе модели не даёт права обойти проверку пользователя или провести финансовую операцию.

Обрабатывайте неполный результат

Пустой ответ, отказ модели и оборванный поток требуют отдельного поведения. Не дописывайте JSON механически и не считайте такой ремонт подтверждением ответа. Если приложение разрешает повтор, сохраняйте причину и номер попытки.

При streaming дождитесь завершения операции, затем валидируйте собранный результат. Частичная строка пригодна для предварительного отображения, но не для передачи в исполнитель действий. Сценарии завершения разобраны в руководстве streaming.

Отделите валидацию от решения продукта

После схемы выполните бизнес-проверки: права на ресурс, наличие сущности, допустимость перехода статуса. Если операция изменяет внешнюю систему, примените собственную защиту от повторного исполнения.

Для диагностики сохраните ошибку схемы без полного пользовательского текста, идентификатор задачи и request_id. Проверьте корреляцию с журналом запросов. Логи должны помогать воспроизвести отказ, не превращаясь в копию всех документов, отправленных модели.

Готовы подключиться?Войдите в консоль, пополните баланс и создайте API-ключ.