5.15中科院｜从算法到芯片，破局端侧大模型！

前言这是我的agent系列文章的第8篇，该系列分为三部分：AI认知篇：详细讲解相关基础概念AI实践篇：分享诸如skills怎么写、怎么ai coding、怎么写好prompt等的最佳实践AI八股篇：分享我自己整理的应付大模型应用开发岗位必备的八股笔记（后端与agent2手抓学习专栏想象一下，你拥有一匹日行千里的神骏，它力量无穷，速度惊人。但如果直接骑上它去送货，结果很可能是：它跑得飞快，却跑错了方向，或者在半路被路边的野花吸引，完全忘了任务。这匹“神骏”就像今天强大的大语言模型（LLM），而Harness，就是为它量身定制的“缰绳”、“马具”和“导航系统”。简单来说，Harness（驾驭层）是...

专注物联网边缘节点的嵌入式 AI 方案设计与实现，在低资源嵌入式设备上构建本地 AI 决策系统，减少云端数据传输依赖与网络延迟。负责边缘节点数据采集、本地 AI 推理、异常告警与策略执行，实现 “端侧智能”。熟悉 MQTT、HTTP、LoRa 等物联网通信协议，可根据 AI 推理结果选择性上传关键数据，降低带宽与功耗。参与边缘计算节点固件开发，实现模型在线更新与增量学习能力。能够搭建嵌入式 AI+IoT 整体架构，提升物联网系统响应速度、隐私安全性与离线工作能力，适用于智慧园区、智能家居等场景。

最近影石的秋招真的让我心态反复横跳。本来已经打算放弃了，结果后面又被抬价，直接又燃起希望了😂整体面试体验还是挺不错的，面试官都很强，问得也很深入，尤其是对项目和底层原理的考察非常细。这里整理一下自己的面经，希望能帮到后面准备秋招的同学。一面：疯狂技术拷打（AI推理 + C++ + 体系结构）一面的面试官绝对是技术大牛，问题密度非常高，几乎没停过。AI推理 / MNN / 模型部署为什么选择 MNN 推理框架？调研过其他框架吗？模型从训练到端侧用 MNN 推理的完整流程是什么？int8 和 FP16 的性能提升明显吗？MNN 做了哪些优化？双线性插值的 4 个点权重怎么计算？仿射变换用了哪些 ...

这个职位怎么才刚发几个小时，然后就下了，连投简历的计划都没有嘛