去大公司好还是去中型公司好？

第 20 题：SwiGLU 激活函数相比 ReLU / GELU 的优势 题目 解释 SwiGLU 激活函数相比 ReLU 和 GELU 的优势。 一、ReLU 与 GELU 简述  ReLU：；简单、稀疏，但死神经元、非零处恒为 1 的梯度。 GELU：（与正态 CDF 相关）；平滑、在负半轴非零，被 BERT、GPT-2 等采用。  二、门控与 GLU 族 GLU（Gated Linear Unit） 形式：，即一路做门控（sigmoid），一路做线性变换，再逐元素乘。门控可让模型学会“选通”信息，提升表达能力。 SwiGLU：把门控的 sigmoid 换成 Swish（即 ，又称 SiL...

好贵啊海淀这边

据说三面面试官是团队负责人，平时非常忙，这场面试前前后后约了好几次才终于定下来。 面试时间正好卡在饭点。面试官进来时状态还很饱满，先随口问了我一句：“吃饭了吗？”简单寒暄后，他很快切入正题： “我先给你三道题，你先做。我把晚饭吃了，等会儿还有个会。中间有问题随时开麦问我。” （我虽然听说了字节很忙，但是这是第一次切实体会到“居然忙成这样”…） 说完，他简单交代了题目和要求。 我只回了一句： “……好的，老师。” 三道题分别是：SQL手撕、基础算法、场景题。 SQL已经忘记具体题目； 算法是：链表隔K个元素反转 幸运的是，我整理过一些常见场景题，而那道“4G物理内存给100G文件的排序方法”我刚...