1.说一下 Transformer 的底层结构吧Transformer 的核心是用自注意力代替传统序列模型里的递归结构。一个标准模块通常包含多头自注意力、前馈网络、残差连接和 LayerNorm。自注意力负责让每个 token 和其他 token 直接交互，前馈网络负责做非线性变换，残差和归一化负责保证深层训练稳定。它真正厉害的地方不是结构复杂，而是信息传播路径短，长距离依赖更容易建模，并且天然适合并行训练。2. Transformer 为什么用了 LayerNorm 呢因为 BatchNorm 依赖 batch 维度上的统计量，但 NLP 任务里句子长度不一致，线上推理时 batch 也经常...

由于公司经营遇到了巨大问题，出现严重亏损。不得不忍痛告诉全体员工团队解散一事衷心感谢全体小伙伴们在公司付出努力与汗水目前待定截止今日，后续事宜人事小姐姐会逐步跟进安排。再次感谢各位伙伴们希望大家都能有一个好的前程，在未来的时候一定要努力奋斗，前程似锦2023年6月16日我正在开开心心的写着代码，突然来了这么一条消息；我直接原地呆住了，沉思良久我才发现办公室内寂静的可怕，没有了键盘的敲击声；有的只有同事们的呼吸声，大家都依靠在椅子上，像是在思考什么。很快大家也都接受了这个不愿看到的实事。过了一两天就在开始办理离职一类的事情了。投递简历在离职以后，我们同事之间约好一起打了2个小时的球，吃了一个饭；...