蚂蚁内推蚂蚁内推蚂蚁内推码

哪个比较好，都是大外包

欣旺达Java一二三面经状态：已发offertimeline2024-03-28 一面 二面2024-03-29 三面2024-03-30 oc2024-04-01 offer一面 2024-03-28 5min-----------------1. hr面，主要问一些工作地、期望薪资、意向这些二面 2024-03-28 30min1. 技术栈除了学校教的都是自学的吗2. 实习项目浅浅拷打3. MQ消息堆积如何处理4. 慢sql处理5. 对索引的了解？哪些字段适合加索引，哪些不适合6. synchronized的JVM层面原理？锁升级流程？7. Redis的使用场景8. Redission分布...

✴️算法面试中遇到一道实战场景题：在大模型训练中使用GRPO，训到一半 reward 就很容易突然掉下来的原因？GRPO 出现这个问题，需要详细了解强化学习（RL）的基本迭代架构，即 Actor-Critic 架构。知行互动（AC）架构为什么要有 Critic 呢？这就涉及强化学习的算法稳定性问题。与监督学习（SL）相比，RL 实际上是很难稳定的一类训练机制。💣大致的原因如下：RL 本身是处理动态系统的最优控制问题，而 SL 是处理一个静态优化问题。动，就比静更难处理。加上 RL 的数据非稳态，Env-agent 交互机制的数据采集量少，这使得梯度计算的方差更大，方差一大就容易偏离预期目标，算法就容易跑飞了。主流的强化学习算法是怎么解决这一问题的呢？加上 Critic，使用 State-value function 或者 Action-value function 稳定策略梯度的计算过程。更高级一些的算法是采用 Advantage Function，也就是加上了 Baseline，增加梯度计算的稳定性。这是 AC 算法总是优于 REINFORCE 算法的原因之一。✅然而 GRPO 并没有 Critic 部分，原因比较简单，因为 GRPO 是用于训练大模型（1000 亿级别的参数规模），若是使用“知行互动”架构的话，等于需要存储两个大模型。Critic Network和 Actor Network，对存储要求极高。怎么节约存储呢？把 Critic Network 去掉，替换为在线估计 Advantage function 的算法，采用了“时间（算力）”换“空间（存储）”的做法。这就是 GRPO 的设计思想。与之对比，OpenAI 提出的 PPO 算法（也是 GRPO 的基础算法），它的值函数通常是一个与策略模型大小相当的模型，这带来了显著的内存和计算负担。考虑到 OpenAI 并不缺算力资源，不缺存储资源，即使 PPO 算法设计的如此糟糕，照样用的风生水起。🤳回到最初的话题，从原理上看 GRPO 并非完美，与 PPO 相比实际上处于是半斤八两的水平，算法设计存在“稳定性”缺陷，但是为什么 DeepSeek 还能用的比较好呢？因为 DeepSeek 的数据足够多，多到可以“完美”地避开 GRPO 的稳定性缺陷。每次的 Policy Gradient 计算，只要 Batch 数据足够多，就能有效降低 Policy Gradient 的方差，就能获得比较稳定的迭代。当每次使用的数据批量比较小的时候，它的稳定性缺陷将是致命的。这类规模的策略训练，建议优先选择带有 Critic 的强化学习算法。🌟如果大家想了解高质量的项目辅导以及提升面试能力，欢迎后台咨询。    

1.概念HTTP：超文本传输协议（Hyper Text Transfer Protocol）是一种详细规定了浏览器和万维网服务器之间互相通信的规则，通过因特网传送万维网文档的数据传送协议。HTTPS：超文本传输安全协议（Hypertext Transfer Protocol Secure，简称：HTTPS）是一种通过计算机网络进行安全通信的传输协议。HTTPS经由 HTTP 进行通信，利用 SSL/TLS 来加密数据包。HTTPS 的主要目的是提供对网站服务器的身份认证，保护交换数据的隐私与完整性。2.http和https区别HTTP是明文传输，连接很简单，是无状态的。https协议是有SSL...