两个月打磨：前端AI项目利器- RAG知识库助手（搜索推荐机制版）

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

不止遇到一次了，什么都不会，让提合并请求，问什么是合并请求。让gitlab.页面把测试截图附上，不知道截图要放在哪，那么大的编辑看不到吗让配开发机，问ip是什么东西……这都咋进来的啊，我们（我2023年毕业）那会儿没AI的时候面试都是直接linux，docker，k8s，git，结构与算法，计网。怎么才过去2年，实习生跟傻子一样，有些问题问的我难受，不会git commit，不会git pull，不会切换分支，直接要覆盖master....————而且态度非常敷衍，3天前给开个仓库权限，连本地都没有拉下来。让写一个小文档，都是说一句，写一句，说把目录加上，挺嗤之以鼻，最后还是把目录加上了😂😂任何文档和注释都是方便后来人的，现在的人真的很自负啊，打开github看看任何一个开源项目的文档和注释，都写的很详细。难道现在的同学在校期间不经常拉开源项目看源码学习吗？ 哪怕是一个swap函数，开源项目里都经常注释：1 3 5 7 9 2 4 6 8 10＾           ＾l              rswap：{功能描述}{使用样例}————给我气笑了，没次问我有什么任务的时候，我都是说，优先你学校导师的项目，然后再做公司需求。然后给了两个需求，一个月内搞定就行，既然是agent开发，1. 部署需要维护项目的开发环境2.阅读opencode/openclaude代码（我个人感觉龙虾的源码agent部分很常规，就一个channel+agent，还不如看claude泄露的代码和opencode）然后任务1搞了几周说因为环境问题，他申请到的远程开发机是linux，装的python2，项目是py3的，所以没搭建，我说你不行就用conda或docker把环境屏蔽了呢，没搭理我。任务2：看了很长时间代码，给我回了一句，opencode和openclaude是用go写的……我说你打开github看右下角那的语言是ts还是go…… 结果满脸懵的说ts是什么……我让看agent loop，哪怕全局搜索一下while(true)，跳过去从头看到尾就大致清楚了，压根没看。————嘻嘻，我已经开始做社招简历了。

网友提问：您好，本人研二，985本+清华研究生，无实习经历、无论文，目前在实验室跟着老师做一个工业缺陷检测的项目，主要基于yolo进行小修改和尝试一些数据增强方法，代码能力较差，全靠ai coding。个人目标是秋招能进大厂，向您咨询具体方向的可行性。1.退出导师现在的项目，开始准备八股leetcode等，找一个算法岗实习（大模型或搜广推），暑期实习来不及就找日常实习，刷个履历准备秋招。2.继续现在的项目，秋招去找cv方面的岗位（这个没有论文竞争压力是否很大）3.零基础学习C/C++，准备两个项目秋招找后端开发由于现在时间很紧，想向您咨询一下这些路线哪些可行，谢谢指导。Yt回复：一、你的开局：...