#structured outputs

vLLM v0.32.0 发布，包含 814 个提交和 363 名贡献者；新增默认提供的 \POST /v1/systemone\ 端点，用于对结构化状态回答 \choice\、\noul\ 和 \score\ 问题，并支持 \Cloudflare/clef-omni\ 等模型。新增 \--tool-call-parser hf\ 与 \--reasoning-parser hf\，通过读取 checkpoint 的 \response\template\，让自带该模板的模型无需专用解析器，Python 和 Rust 前端均支持。低精度 KV 缓存扩展到更多 NVIDIA 架构和 ROCm：NVFP4 覆盖 SM8x、SM12x 和 SM90，GLM-5.x 在 SM100 默认使用 FP8 KV 缓存，发布说明引用的 PR 基准称每个 rank 的 KV 内存减半、吞吐提高 2.3-5.5%，但 TTFT 增加 7-11%；ROCm 新增 \ultraquant\4bit\，密度约为 FP8 的 2 倍。该版本还包含破坏性变更：停止支持 Python 3.10、默认限制 CORS 来源、收紧 transformers/tokenizers 版本范围，并移除 cascade attention 等。