Как проверять JSON-ответ LLM перед использованием
Если ответ модели будет читать программа, проверьте его JSON-парсером и схемой до использования. Корректный JSON подтверждает синтаксис, но не разрешает действие и не доказывает правдивость значений.
Проверьте поддержку выбранной модели
Форматированный вывод и обычная просьба «ответь JSON» не равнозначны. Перед передачей параметров режима проверьте свойства модели в каталоге Relay и поддерживаемый контракт в матрице совместимости.
Не переносите response_format или другой параметр между протоколами по памяти. Сверьте запрос с нужным маршрутом: Chat Completions или Responses. Если режим не подтверждён, не обещайте приложению гарантированную схему.
Примените свою схему
Опишите обязательные поля, типы, допустимые значения и ограничения длины. Решите, что делать с неизвестными полями. Проверяйте числа и даты как данные, а не как строки, которые «выглядят правдоподобно».
Например, результат классификации может содержать допустимую категорию и краткое пояснение. Сервер должен отклонить неизвестную категорию. Наличие поля approved: true в ответе модели не даёт права обойти проверку пользователя или провести финансовую операцию.
Обрабатывайте неполный результат
Пустой ответ, отказ модели и оборванный поток требуют отдельного поведения. Не дописывайте JSON механически и не считайте такой ремонт подтверждением ответа. Если приложение разрешает повтор, сохраняйте причину и номер попытки.
При streaming дождитесь завершения операции, затем валидируйте собранный результат. Частичная строка пригодна для предварительного отображения, но не для передачи в исполнитель действий. Сценарии завершения разобраны в руководстве streaming.
Отделите валидацию от решения продукта
После схемы выполните бизнес-проверки: права на ресурс, наличие сущности, допустимость перехода статуса. Если операция изменяет внешнюю систему, примените собственную защиту от повторного исполнения.
Для диагностики сохраните ошибку схемы без полного пользовательского текста, идентификатор задачи и request_id. Проверьте корреляцию с журналом запросов. Логи должны помогать воспроизвести отказ, не превращаясь в копию всех документов, отправленных модели.