1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

一开始签了个AI coding什么的，当时想欸这么好可以用AI？（似乎那个AI coding是ai面试？）然后再看又是切屏不计入，又是允许本地IDE，干脆直接chatgpt启动了出来和大家讨论发现好像不能用AI上小红书搜发现这么干的不是少数，尤其是本地IDE直接是cursor和trae的而且发现这个问题去年秋招就有人问过，更离谱的是当时有的人问HR，有的HR说可以有的说不可以现在发了邮件去问招聘团队了，感觉是细则没写清楚要是直接说不能用不如直接签到题走人更省时间

现在AI这么恐怖，毕业26，能干到30吗？暑期实习也找不到，感觉快进斩杀线了啊

作为正在春招的大四后端学生，对这句话深有体会。很多时候说完便石沉大海，既无通过喜讯，也无拒信反馈。比起漫长的等待，更希望得到明确结果。求职路上，希望反馈的时间快一些，而不是处于通过又没通过的不知道状态。#HR最不可信的一句话是__#