第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

收藏我了是进人才储备池了还是有戏了😂

吓哭了，明天被面试塞满了

前段时间吃饭，跟 mentor 聊到现在毕业生找工作难这件事。他顺口说了一句话，我印象特别深： 有些面试，5分钟内其实就差不多知道结果了。甚至有的校招面试，更直接：候选人一开口，挂还是过，他心里基本就有数了。说实话，我一开始听到这句，还有点不服。我当时心里想，哪有这么夸张，大家不都得聊一会儿、问几轮，才能看出来吗？但回头看我去年那 40+ 场后端面试，我发现这话真不是吓人的。很多时候，不是你答了多久才暴露问题，是你一开口，面试官就已经听出来你对这个东西到底懂多少。两次尴尬面试经历我刚开始面试那阵子，其实就是最典型的“背过一点，但没真的懂”。后端技术栈深度不够，广度也不够，再加上人一紧张，就特别...