@sunnyyyy01 大佬快来帮忙看看
点赞 1

相关推荐

结合最近辅助修改的简历及项目,老师总结了部分大模型微调简历的踩雷点。🙅‍♂️错误示范:在 x任务中,获取 xxx 条数据,通过规则 or 脚本清洗出 x 条数据,然后微调 y 大模型,在业务上提升 x 个点。✍🏻原因:大模型微调的平台是现成的,基模是现成的,体现不出核心能力。✅应该怎么写?首先介绍业务背景:业务是一个销售对话业务,机器人是销售,代替真人,直接面对用户。我们会给模型设定任务,任务是 prompt 。步骤1️⃣.提取训练数据问题:1.真人通话每通电话任务是未知的,我们训练数据是任务+通话的 pair 对。2.真人通话很乱,与客户的对话是各种交叉的,导致 asr 后并不是一人一轮。解决方案:1.首先通过大模型 prompt 对该通电话提取任务,得到任务+ pair 对。需要用到 cot + reflection +多 Ilm 一致性+ debating 的模式。2.使用大模型根据以上任务和真人对话,让大模型编写出通话内容。提问,为什么要编写而不是直接用?步骤2️⃣.制定训练数据集问题:1、正常的对话内容,前面几句和后面几句基本上一致的。都是问候和拜拜,但是也有一些差异。2、因为都是相似场景,虽然任务不同,但是很多场景语义很相似。解决方案:1、基于轮次的权重采样:通过轮次设定权重进行 weighting sample 。解决问候和拜拜的高占比问题。2、基于语义的采样:使用 bert 对对话内容进行 embedding ,然后使用层次聚类通过调节阈值聚类出相似语义的类。对一个类里的样本进行随机采样,提问,为什么要对重复语义的数据进行下采样?3、基于客户类型和产品的采样,因为很多产品是热品,导致对话内容有偏,用户类型一样,需按照类型调整整体比例采样。提问,为什么要这么采样?步骤3️⃣.制定训练数据集我们直接把输出当作 target 进行训练。使用的 lora 训练,但是 lora alpha 设定成为4倍的时候达到了比较好的效果,经验值不同任务不一样,提问,在各种情况下要怎么调?步骤4️⃣.dpo训练问题:v1版本训练时,很多输出内容是对的,但是输出的语气不太像真人,机器人味还是很严重。解决方案:由于训练本身是有 ground truth 的,因此使用v1训练的模型,预测训练集,使用大模型对比两者语气不符合训练集的拿出来,使用训练集的 ground truth 和模型的预测数据作为 dpo 训练对,对v1版本模型重新训练。📳这里老师只是简要进行概括解答,具体情况和详细解答可以咨询辅导,如果想了解项目辅导,提升面试能力,欢迎后台联系。    
点赞 评论 收藏
分享
在AI Agent的设计中,意图识别是自然语言理解(NLU)的核心环节,直接影响用户体验和业务目标达成。作为AI产品经理,需从业务场景、技术实现和用户体验三个维度系统设计意图识别方案1. 明确业务需求与意图分类体系- 场景拆解:根据Agent的应用场景(如客服、智能家居、电商导购)梳理高频用户诉求。例如:- 客服场景:咨询、投诉、退款、查询进度等- 智能音箱:播放音乐、设置闹钟、控制设备- 意图分层设计:采用树状结构(主意图→子意图→槽位),避免分类粒度混乱。例如:主意图:订机票├─子意图:查询航班(槽位:出发地、目的地、日期)└─子意图:改签机票(槽位:订单号、新日期)- 兜底策略:设计"未知意图"分类,结合澄清话术(如“您是想查询订单还是联系客服?”)或转人工流程。2. 数据驱动的模型构建- 数据采集与标注:- 通过用户历史对话、搜索日志等获取真实语料。- 标注时需注意同义表达覆盖(如“帮我订票”和“买张去北京的机票”)。- 技术选型方案:- 规则引擎(正则表达式、关键词):冷启动阶段/高确定性场景(如命令词)- 深度学习(BERT、TextCNN):复杂语义场景- 大模型微调(Few-shot Learning):长尾意图识别- 多模型融合:规则兜底+模型预测,例如先用规则处理高频意图,剩余流量走模型。3. 用户体验闭环设计- 容错机制:- 置信度阈值设置(如低于0.7时触发澄清)- 上下文继承(用户说“换一个时间”时继承前文航班查询意图)- 效果评估指标:- 技术指标:准确率、召回率、F1值- 业务指标:任务完成率、转人工率、单次对话解决率(FCR)- 用户感知:用户主动纠正次数、满意度调研- 持续迭代闭环:- 建立bad case分析流程,将误识别样本反馈至标注池- 监控意图分布变化(如新增促销活动可能引发未覆盖的咨询意图)的         
点赞 评论 收藏
分享
在AI产品设计中,Agent(智能体)和Workflow(工作流)是两种核心范式,分别代表了智能化与流程化的不同方向。要从以下方面展开分析:一、核心区别二、Agent的核心特性三、Workflow的设计逻辑四、协同关系五、选择决策要点具体来说:1. 定义与功能:   - Agent:自主决策实体,能感知环境、做出决策并执行动作   - Workflow:预定义的任务序列,按照固定流程执行2. 执行方式:   - Agent:动态响应,根据输入和环境变化自主调整行为   - Workflow:线性执行,严格遵循预设步骤3. 灵活性:   - Agent:具备学习适应能力,可处理未知情况   - Workflow:静态结构,变更需要手动修改流程4. 决策能力:   - Agent:内置决策逻辑,可实时评估选择最佳路径   - Workflow:无自主决策,完全依赖流程设计5. 复杂度:   - Agent:通常包含状态记忆和目标导向行为   - Workflow:侧重任务编排和顺序控制6. 典型应用:   - Agent:聊天机器人、自动驾驶、游戏AI   - Workflow:数据处理流水线、审批系统、CI/CD流程7. 错误处理:   - Agent:可自主尝试恢复或寻找替代方案   - Workflow:依赖预设的错误处理分支总结:Agent是“大脑”,Workflow是“骨架”,二者结合可构建从灵活到稳定的AI应用光谱。未来方向是通过低代码平台降低两者融合门槛,实现智能化与自动化的统一。      
点赞 评论 收藏
分享
牛客网
牛客企业服务