要不要拥抱大模型推理，求点醒

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流项目拷打Transformer1.Transformer结构介绍2.自注意力机制介绍CUDA:1.Safe Softmax和普通softmax的区别?2.如何实现的online softmax科大讯飞iFLYTEK3.代码实现online softmax4.CUDA开发流程5.如何在CUDA上求一个数组的和?如何在CUDA上划分和合起来6.编译命令?nvcc有哪些常用参数?7.GCC有哪些参数?链接动态库?头文件查找路径?8.动态库和静态库的区别Pytorch:1.一个Tensor[1,2,3,4]想转成[4,3,2,1]有那些函数可以做到?(permute)2.介绍一个熟悉的继承自nn.Module的类推理加速中的FlashAttention了解吗?

自我介绍 用了哪些方法使FCP渲染耗时缩短近1s 有没有遇到过哪个包不支持ESM的，你是怎么处理的 你进行代码分割的思路是什么 不定高的虚拟列表的实现原理是什么NextJS有哪些渲染模式，分别介绍一下你们的应用用的是哪种 NextJS中有一个内置的图片优化组件，它做了哪些优化 让你优化图片显示你怎么优化webp格式的图片有兼容性问题吗，怎么做降级处理 AI问答应用有出现页面抖动的情况吗，你是怎么处理的应用用的什么markdown库 AI问答应用有出现返回中断导致的markdown显示错误吗，是怎么处理的浏览器插件有哪些组成部分各个部分怎么进行通信插件的sidePanelAI应用的思考模式是怎么...

发点面经攒攒人品1、你在线上或离线训练时，过拟合怎么处理？直接说你最有效的三个方法和拿到的收益。2、把 BN 讲透：原理是什么；训练期和推理期用的统计量有何不同；跟 LN、GN 比，分别什么时候用、怎么取舍。3、分类和回归你最常用哪些损失？你更偏好哪几个，为什么（从鲁棒性、梯度、数值稳定性上谈）。4、L1 和 L2 正则你怎么选？它们各自的效果与风险是什么，工程里你是怎么权衡的。5、二元和多分类的交叉熵你怎么写？在工程里你怎么做数值稳定实现。6、AUC 到底在统计上代表什么？你怎么计算它，在线上业务里你如何解释“这次 AUC 提升”的含义。7、你做 CTR/CVR/CTCVR 联合建模时，ESMM/ESMM2 是怎么推导与工程落地的？线上到底带来了什么收益。8、Transformer 里因果注意力的 Q/K/V 各从哪来？Mask 具体怎么实现。9、Scaled Dot‑Product Attention 为啥要除以 √dk？如果不除会出什么数值或训练问题。10、把 Transformer / Decoder‑only 的整体结构过一遍，各个组件分别在干什么，有哪些常见变体。11、位置编码这条线你怎么选：绝对 PE、相对 PE、RoPE 各自的思路、优势和局限，结合你的项目谈取舍。12、长上下文怎么搞？Rope scaling、Position Interpolation、KV Cache 管理、检索增强、窗口注意力，你的实战方案是什么。13、KV Cache 在训练和推理中的差异是什么？它的加速价值有多大，吞吐与延迟你是如何权衡的，vLLM/paged‑attention 需要注意什么。14、PEFT 方案里（LoRA/QLoRA/Prefix/Prompt‑Tuning/Adapter）你怎么选？说说稳定训练的经验。15、SFT 和对齐（RLHF/DPO/IPO/PPO）原理差在哪？在不同数据与资源条件下，你怎么选路线。16、RAG 系统你怎么设计？切分、索引、召回/重排、压缩/融合、兜底策略怎么串。17、提示词工程你是怎么搞的？System/角色/约束/分步指令怎么写，如何防越狱

今天给大家介绍一个非常适合上手实操的 AI Agent 开源项目——CoPaw（GitHub 12.5k star），一个真正能跑起来、用起来的私人 AI 助手。 CoPaw 是什么？ CoPaw 全称 Co Personal Agent Workstation，是一个可以部署在自己电脑或云端的个人 AI 助手框架。它不是那种只能在网页聊天的 demo，而是能接入你日常使用的各种聊天工具，帮你干活的实战型 Agent。 一句话总结： 把 AI 能力接入你的钉钉/飞书/QQ/Discord/Telegram，让它变成你的 7x24 小时私人助理。 为什么推荐这个项目？ 1. 上手极简，3 行命令...