Python 中经得起考验的大语言模型结构化输出验证

2026西湖龙井茶官网DTC发售：茶农直供，政府溯源防伪到农户家 

大多数关于大型语言模型“结构化输出”的教程都不够严谨。
它们教你礼貌地请求生成 JSON 格式，然后祈祷模型能乖乖听话。
那不是验证。
那是带着花括号的盲目乐观。

开放人工智能公司（OpenAI）自身的文档明确区分了这两者。JSON 模式仅保证生成有效的 JSON 格式，而结构化输出则强制要求遵循预定义的模式结构；开放人工智能公司建议在可能的情况下使用结构化输出，而非 JSON 模式。

但这仍然不能保证负载数据完全可信。JSON 模式定义了结构和允许的值，派丹蒂克（Pydantic）库在 Python 中提供类型化验证，而开放人工智能公司明确指出，即使响应符合模式结构，其中仍可能包含错误的值。此外，模型的拒绝响应和不完整输出可能会绕过你预期的结构。在生产环境中，结构化输出验证是一个流水线过程，而非一个简单的开关。同样的边界条件也必须置于更广泛的吞吐量、重试机制以及调度器限制的背景下考量，详见 大型语言模型性能工程中心。

结构化输出验证是一种契约

针对大型语言模型的结构化输出验证，意味着你需要预先定义答案的结构，尽可能约束模型生成该结构，然后在应用程序信任并使用结果之前再次进行验证。具体而言，这意味着在负载数据进入你的数据库、用户界面、消息队列或下游服务之前，检查必填字段、数据类型、枚举值、封闭的对象结构以及领域规则。JSON 模式正是为此类结构验证而存在的，派丹蒂克库旨在根据 Python 类型提示验证不可信数据，而 Python 的 jsonschema 库则提供了一种直接根据模式验证实例的方法。

此外，两种常见用例之间存在清晰的界限。如果模型旨在以结构化格式回答用户，请使用结构化响应格式。如果模型旨在调用你应用程序的工具或函数，请使用函数调用功能。开放人工智能公司的文档阐明了这一区别，并且对于函数调用，他们建议启用 strict: true 参数，以确保参数可靠地遵循函数模式。

我的观点非常明确：将每一个结构化的大型语言模型响应都视为一个应用程序编程接口（API）边界。一旦你开始从契约而非提示词的角度思考，架构会变得更加清晰，调试成本会降低，而“为什么模型在生产环境中凭空发明了新字段”这类问题也会基本消失。这才是“什么是大型语言模型的结构化输出验证”的真正答案，这比“礼貌地请求模型生成 JSON”要好得多。

JSON 模式不等于验证

如果你只记住本文的一件事，那就是：JSON 模式不是模式验证。开放人工智能公司的帮助中心指出，JSON 模式不保证输出匹配任何特定的模式结构，仅保证它是有效的 JSON 且解析时不会出错。结构化输出指南以更清晰的方式表达了同样的观点。JSON 模式和结构化输出都能生成有效的 JSON，但只有结构化输出强制要求遵循模式结构。

这一差异的重要性远超人们的承认。在其结构化输出发布文章中，开放人工智能公司报告称，启用结构化输出的 gpt-4o-2024-08-06 模型在其复杂 JSON 模式评估中得分达到 100%，而 gpt-4-0613 模型的得分低于 40%。你无需将这些数字视为普遍真理，也能看出其 broader 含义。模式强制执行将失败面从“可能发生任何情况”转变为“契约约束更加严格”。

仍然存在边缘情况，忽视这一点会让玩具演示演变成深夜紧急呼叫任务。开放人工智能公司文档指出，模型可能会拒绝不安全的请求，而这些拒绝响应会在正常模式之外显现