跳到正文
阿里云先知社区·· 9 天前AI 评分15

结构化约束中的拒绝路径阻断与下游决策风险:Structured Output、JSON Schema、GBNF 与 Guided Decoding 的安全隐患

【AI安全】结构化约束中的拒绝路径阻断与下游决策风险

AI 导读

大模型安全关注点正从“模型看到了什么”扩展到“模型下一步被允许生成什么”。Structured Output、JSON Schema、GBNF、Guided Decoding 等结构化约束机制在限制输出格式的同时,可能阻断拒绝路径,并将风险传导至下游决策环节。

来源:阿里云先知社区 · xz.aliyun.com