陈禹杉

江苏大学

摘要(Abstract)：

随着人工智能技术向终端场景深度渗透，传统通用人工智能算法因模型参数量大、算力消耗高、推理延迟长等问题，难以 适配资源受限的嵌入式计算机系统。为解决AI算法落地嵌入式终端的适配难题，本文立足嵌入式硬件资源约束特征，构建分层式AI 算法轻量化优化技术体系，从模型结构压缩、推理任务调度、硬件算子适配三个维度完成算法轻量化改良，同时搭建嵌入式端全流 程适配机制，优化部署编译链路、资源调度模式与云边协同推理架构。通过搭建实体试验平台，建立算力、功耗、精度多维评测体 系，完成轻量化算法的场景验证与标准化适配。实验与研究结果表明，本文优化方案可有效降低AI模型对嵌入式硬件的资源依赖， 在保证推理精度损失可控的前提下，显著降低设备功耗、缩短推理延迟，适配多类型嵌入式终端量产落地需求，为终端人工智能的 规模化应用提供技术支撑。

关键词(KeyWords)：

轻量化人工智能；嵌入式计算机系统；模型剪枝；算子适配；资源调度；云边协同

参考文献(References)：

［1］郭玉芝，徐伶伶，房正华.“三全育人”背景下计算机科 学导论课程思政的教学探索与践行［J］.国家通用语言文字教学 与研究，2024，（1）：7-9. 

［2］张磊，陈曦.面向边缘设备的神经网络剪枝与量化轻量 化算法综述［J］.微电子学与计算机，2023，40（05）：1-8. 

［3］王梓轩，刘敏.嵌入式系统低功耗 AI 推理任务调度优化 方法［J］.计算机应用研究，2022，39（08）：2389-2394.