字节tiktok ai后端开发实习一面

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

人生第一次面试，就面字节😭 拷打1h自我介绍拷打项目，项目一个普通后端项目一个aiagent，只问agent项目，但是我ai纯凑数项目😭半吊子ai水平。这个agent项目干了什么，怎么实现？mcp，rag是什么，用来干什么？怎么去调用大模型 （答：直接调openai的api😃）？介绍ddd架构为什么用流式传输？（答：前端看着好看😁）正常调用ai，ai回答有多快？（这玩意不是跟llm自身的模型有关吗？答：我用ds就很慢，用qwen这些很快😂）八股：介绍hashmap介绍索引（B＋树）介绍 rabbitmq算法：查找数组中，最短只需要排序多长的子数组就能使整个数组有序（我咋不记得hot100有这道题？）算法思路没问题，双指针从两边向中间走，但是写了半小时，而且最后输出答案多＋1了😭第一次面试太紧张了反问：我答的怎么样？基础不错，项目也还行，就是算法差点意思，回去了解了解go语言面试官不压力也不放松，全程严肃，慌死我了，而且不是我报的岗位，应该是tiktok给我捞上来的，感觉是挂了更新：3.31二面

1.skills和tools最大的区别？2.skills为什么选择用markdown文件？3.实习中比较有挑战的技术方面4.目前的token也比较烧钱的，减少token消耗方面有什么做法吗？5.url输入到渲染页面的完整流程6.https和http的区别7.为什么在国内访问不了tiktok，如何访问，原理是什么？8.http有几个方法？9.get和post的区别，哪一个更安全？10.cookie和session的区别？11.int和integer的区别?12.ArrayList和LinkedList的区别13.设计模式有了解吗？14.手撕订阅服务模式（寄）15.连续子数组求最大值oh no那个...

抖音基础架构团队1.自我介绍问实习：2.提示词模板是怎么构建的？3.单Agent还是多Agent的？子Agent任务是什么？4.分支覆盖率是怎么统计的？原理有没有了解过？代码插桩具体是怎么实现的？5.对于代码解析有没有前置分析？有效性判断怎么实现的？未来让你来优化这些指标你会怎么设计？6.有没有思考过哪些代码会让模型生成的代码准确度和覆盖率降低？这些用AST和LSP都生成不了单测的代码如何过滤？7.mock是怎么实现的？问项目：8.多维度的查询改写是什么？改写的时候遇到需要用户参与补充信息时怎么设计？技术上怎么实现？9.并行化意图识别是什么？为什么要并行化？如何实现的？10.讲一下项目里召回的流程11.对于上下文工程有什么经验吗？有没有做过to do list？为什么这样会让模型更聚焦，怎么实现的？12.skills的原理有没有了解过？怎么实现的？问八股：13.LLM的底层原理有没有了解？输入给模型的是什么？14.self attention怎么实现的有了解吗？为什么要分成QKV，怎么计算的？同一个token向量是一样的吗？15.python有没有多线程？为什么要有GIL，有没有了解过？多线程的锁都有什么？lock和Rlock有什么区别？16.信号量的底层是怎么实现的？17.cpp编译链接流程有没有了解？编译分哪些步骤？手撕：18.岛屿最大面积19.反问