在Prompt中给出JSON示例并要求模型按格式输出
使用模型原生的JSON Mode(如OpenAI的response_format: json_object)
使用Constrained Decoding(受约束解码),在推理时根据JSON Schema限制模型的Token采样空间
使用正则表达式从模型自由输出中提取结构化数据
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题