1. 必须熟悉 DDPG 、 PPO 、 TD3 、 SAC 等算法的原理和区别。 这四种算法是连续控制（如机器人控制）中最常用的深度强化学习算法。 PPO (Proximal Policy Optimization)   原理：PPO是一种同策略（On-policy）的策略梯度算法。它使用截断（Clipping）机制限制新旧策略的更新步长，防止策略更新“翻车”。   核心公式：    数值计算示例： 假设在时间步 ，GAE计算出的优势函数 （正数，说明这个动作很好）。 设定截断超参数 。 如果新网络过于激进，导致新旧策略概率比 （新策略采用该动作的概率是旧策略的1.5倍）：   原始目标： ...

看来得重新踏上征程了。后悔之前oc之后没有走其他的流程。

bg，重邮本末九硕，一段中厂，一段大厂实习项目是我主页的知光，项目和面经什么的，xhs可以搜到，同名

1.介绍你的agent项目，为什么做？能解决什么问题？有什么收益？2.知识库agent是搭建在哪里，线上？还是线下？3.大模型是如何选型的？4.RAG知识库的搭建流程？5.在RAG系统中，文档分割大小和检索TopK参数的选择是如何确认下来的？6.你的Mutil-Agent是如何协同的？7.有没有做过本地化部署的模型？8.另一个项目拷打...9.反问...总共耗时在25分钟左右