襄阳航空610所 宇航救生装备

Q1：规划和执⾏要不要拆开两个模型？答案：视任务⽽定。Planner-Executor 拆分可提升可控性（强模型规划、快模型执⾏）；单模型端到端更简单但易在⻓链路漂移。可混合：规划⽤强模型，执⾏层做确定性校验。Q2：如何避免 Agent 在⼯具调⽤间「迷失」？答案：明确 停⽌条件 与 最⼤步数维护 任务清单（todo） 与 当前⼦⽬标对每步输出要求 结构化（JSON）关键步骤 强制验证（单元测试式检查、⼆次 LLM 审核）Q3：结果冲突怎么整合？答案：优先级规则（权威源 > 时间新 > 多源⼀致）、让模型显式输出「冲突说明」、必要时触发⼈⼯。Q4：基于效⽤的 Agent 和基于⽬标...

Q1：企业内部落地 Agent，你最先关⼼哪三个⾮功能需求？答案：安全与合规（权限、审计）、可控性（⼈在回路、⼯具⽩名单）、可观测性（轨迹、指标、回放）。Q2：客服场景如何降低幻觉？答案：强 RAG 溯源、禁⽌⽆引⽤断⾔、模板化答复、未知则转⼈⼯。Q3：怎么评估⼀个 Agent 的好坏？答案：分层评估：任务成功率、平均步数/成本、⼯具错误率、⽤户满意度、安全事件数；基准可包括静态数据集 + 仿真环境 + 线上 A/B。Q4：Agent 的最⼤⻛险是什么？答案：复合错误与权限滥⽤——单步⼩错在多步放⼤，或⼯具被诱导执⾏⾼危操作；因此必须 最⼩权限 + 强审计 + ⼈在回路。Q5：如何防⽌ Pro...