ai面试问题分享
#AI面试问题分享#
#AI面试问题分享#
如果把一个预训练模型部署到单片机上,发现推理时间远超要求,你会从哪些方面优化?”我当时从模型量化、算子融合、内存复用和硬件加速这几个角度展开,还结合自己做过的智能小车项目,讲了怎么用CMSIS-NN库把CNN推理速度提升了30%。还有一个问题是如何平衡模型精度和嵌入式设备的功耗限制?我提到了在项目中用低精度定点运算替代浮点运算,同时通过剪枝去掉冗余参数,在精度损失不到2%的前提下,把功耗降了一半。这些问题都不是考死记,而是看你有没有真正把AI和嵌入式结合起来的工程思维。
#AI面试问题分享#
如果把一个预训练模型部署到单片机上,发现推理时间远超要求,你会从哪些方面优化?”我当时从模型量化、算子融合、内存复用和硬件加速这几个角度展开,还结合自己做过的智能小车项目,讲了怎么用CMSIS-NN库把CNN推理速度提升了30%。还有一个问题是如何平衡模型精度和嵌入式设备的功耗限制?我提到了在项目中用低精度定点运算替代浮点运算,同时通过剪枝去掉冗余参数,在精度损失不到2%的前提下,把功耗降了一半。这些问题都不是考死记,而是看你有没有真正把AI和嵌入式结合起来的工程思维。
全部评论
相关推荐
03-09 17:08
东北大学 嵌入式软件工程师 点赞 评论 收藏
分享