基于负载特征的边缘智能系统性能优化
基于负载特征的边缘智能系统性能优化
复制标题
DOI：
--
复制
发表时间：
2022
期刊：
影响因子：
--
通讯作者：
万健
中科院分区：
文献类型：
--
作者：
胡朝霞;胡海周;蒋从锋;万健
边缘智能指利用人工智能算法为网络边缘设备提供数据分析能力的一种服务形式. 然而, 边缘计算环境比云计算更.加复杂和多变. 在构建边缘智能的过程中存在很多问题, 例如缺乏量化的评价标准、 异构计算平台、 复杂的网络拓扑、 不断变化.的用户需求等, 其中比较突出的是算法模型的高资源需求与边缘设备资源储备低之间的矛盾. 机器学习是边缘智能的主要工.作负载, 它需要大量的计算资源, 然而边缘设备的计算资源有限, 两者的供求关系并不匹配, 边缘智能负载的部署和优化成为了.一个难题. 因此, 针对边缘智能负载性能优化问题, 文中提出了基于负载特征的边缘智能性能优化 CECI(CloudＧEdge CollaboＧ.rativeInference) 策略, 从模型选择、 批量自适应调整和云边协同方面对不同机器学习负载进行了优化. 在模型选择方面, 使用.基于目标权重的模型自适应选择策略, 实现在多个条件约束下, 综合权衡多个性能优化目标的效果. 在批量自适应调整方面,.提出了基于开销反馈的批量自适应调整算法, 使得模型在运行时能够达到更好的性能. 在云边协同方面, 通过结合网络状态和.用户时延要求设计出了云边协同策略, 进而达到了动态利用云端计算资源的效果. 实验结果表明, 与云智能相比, 所提出的基.于负载特征的边缘智能能够缩短５０．７９％ 的程序运行时间, 降低了４２．４６％ 的系统能耗, 并提升了４．５２％ 的模型准确率.