大模型会产生幻觉,这在游戏里会造成什么后果?你有哪些缓解方案?

在游戏里,幻觉不一定是坏事,甚至可以用来模拟NPC的“说谎”或“记错”,增加戏剧性。但涉及游戏规则和数值的幻觉,是绝对致命的。
比如一个交易NPC因为幻觉,给了玩家本不该存在的顶级装备,这就属于严重事故。
采取“隔离原则”:所有涉及游戏核心资产、数值、规则的对话,必须走预设的接口或规则引擎,不经过LLM的开放式生成。LLM只负责生成“带情感的台词”,具体的交易逻辑、任务状态变更,由后端写死的逻辑处理。
“让AI学会闭嘴,让代码来干活”。
#面试官最爱问的 AI 问题是......#
全部评论

相关推荐

昨天 17:03
门头沟学院 Java
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务