大佬,去了哪里高就
3 3

相关推荐

03-11 10:20
门头沟学院 C++
想入门模型部署,问了一下Gemini,他的回答如下,大佬们看看这路径可行吗???第 1-2 个月:打地基(Modern C++ & CMake & Linux)目标:能看懂推理引擎源码,能独立构建多文件 C++ 项目。核心内容:Modern C++:跟着 HKL 视频,重点吃透 智能指针 (RAII)、移动语义 (Move)、Lambda 表达式和简单的模板。CMake:掌握如何链接第三方库(OpenCV, CUDA, TensorRT),学会编写 find_package。CSAPP:重点精读 第 6 章(存储层次)。理解什么是 Cache Latency。里程碑:在 Linux/WSL 下用 CMake 构建一个调用 OpenCV 处理视频流的小项目。手动实现一个包含智能指针管理的简易内存池。📅 第 3 个月:拿手术刀(CUDA 编程入门)目标:理解 GPU 并行逻辑,能手写并优化基础算子。核心内容:核心概念:Thread, Block, Grid, Shared Memory, Warp Shuffle。实战任务:手写一个 矩阵乘法 (GEMM)。版本 1:朴素版(跑通)。版本 2:使用 Shared Memory 优化(速度提升 5-10 倍)。性能分析:学会使用 nsight-systems 查看 Kernel 执行时间。里程碑:手写一个自定义的图像预处理 Kernel(比如把 BGR 转成 RGB 并归一化)。📅 第 4 个月:炼金术(模型转换与 TensorRT)目标:把 PyTorch 模型变成 1660 Ti 上的极致推理引擎。核心内容:ONNX:学习如何导出 ONNX,如何用 onnx-simplifier 简化模型。TensorRT:掌握 trtexec 工具,学习编写 TensorRT 的 C++ API 推理代码(创建 Runtime、Engine、Context)。插件编写:尝试为一个 TensorRT 不支持的算子写一个 CUDA Plugin。里程碑:将 YOLOv8 导出为 TensorRT 引擎,并在 1660 Ti 上跑到极致 FPS。📅 第 5 个月:工业化(量化与性能压榨)目标:攻克部署最难的一环——精度与速度的平衡。核心内容:量化原理:学习对称量化 vs 非对称量化,理解 KL 散度。PTQ 实战:使用 TensorRT 的 Int8EntropyCalibrator 进行训练后量化。多线程部署:学习 C++ std::thread 或生产消费者模型,实现“视频读取-模型推理-结果渲染”的异步并行流水线。里程碑:完成一个低延迟、多线程的实时检测系统,对比 FP16 和 INT8 的精度损失与速度提升。📅 第 6 个月:破圈与冲刺(国产迁移 & 算法 & 面试)目标:将能力迁移,准备实习面试。核心内容:国产迁移:如果有条件,借或买一个 RK3588 开发板,学习 RKNN-Toolkit。你会发现,因为你有了前 5 个月的底子,这部分 2 周就能上手。算法刷题:每天 1-2 道 LeetCode,重点是数组、链表、排序。八股文复习:回顾 C++ 内存模型、操作系统基础。里程碑:整理简历,把“手写 CUDA Kernel 优化”、“TensorRT INT8 量化实战”作为核心项目写上去。
秋招白月光
点赞 评论 收藏
分享
正在热议
更多
# AI面会问哪些问题? #
24429次浏览 479人参与
# 中国电信笔试 #
30969次浏览 283人参与
# 厦门银行科技岗值不值得投 #
7409次浏览 185人参与
# 你的实习产出是真实的还是包装的? #
18542次浏览 329人参与
# 如果秋招能重来,我会____ #
96467次浏览 500人参与
# 春招至今,你的战绩如何? #
59336次浏览 535人参与
# 开放七大实习专项,百度暑期实习值得冲吗 #
14024次浏览 209人参与
# i人适合做什么工作 #
36665次浏览 124人参与
# 我是面试官,请用一句话让我破防 #
79297次浏览 219人参与
# 哪些公司真双非友好? #
69143次浏览 287人参与
# 找AI工作可以去哪些公司? #
7531次浏览 178人参与
# 从事AI岗需要掌握哪些技术栈? #
7510次浏览 237人参与
# 五一之后,实习真的很难找吗? #
102791次浏览 584人参与
# 投递几十家公司,到现在0offer,大家都一样吗 #
339786次浏览 2163人参与
# 你做过最难的笔试是哪家公司 #
29657次浏览 180人参与
# 你小时候最想从事什么职业 #
159830次浏览 2072人参与
# 阿里笔试 #
176119次浏览 1300人参与
# 金三银四,你的春招进行到哪个阶段了? #
21456次浏览 274人参与
# 一张图晒出你司的标语 #
3783次浏览 71人参与
# 面试被问期望薪资时该如何回答 #
382439次浏览 2163人参与
# 晶盛机电求职进展汇总 #
35211次浏览 318人参与
# 应届生第一份工资要多少合适 #
20458次浏览 84人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务