近日,实验室博士生牛鑫(导师余辰教授)的论文“Computing Tasks Saving Schemes through Early Exit in Edge Intelligence-Assisted Systems”被 IEEE Transactions on Computers (TC) 期刊录用。
近年来,随着神经网络深度的增加,模型的表达能力显著提升,但也伴随着计算复杂度和冗余的增加。同时,计算任务大量卸载至边缘服务器,显著延长了排队时延。此外,终端设备的频繁移动进一步导致计算迁移,影响计算任务按时完成。为了解决这些问题,文章提出了一种计算任务保障机制,将计算任务分为两类:新到达的计算任务(New Computing Tasks,NCT)和部分完成的计算任务(Partially Completed Computing Tasks,PCT)。NCT是终端设备进入边缘服务器覆盖范围时发起的任务,而PCT则是由于设备移出覆盖范围导致的未完全任务。对于NCT,需要在边缘服务器的排队队列中设置早退出点。由于早退出点的设置涉及多个变量和约束,属于NP难问题。为此,文章提出了一种动态调整方法,根据时延需求实时调整NCT及排队任务的早退出点,以降低时延。对于PCT,当计算迁移发生时,通过监测任务的完成程度,并结合时延要求,选择性提前终止部分计算任务,以保证计算任务按时完成。为了验证所提出方法的有效性,进行了大量实验。结果表明,与基准方法相比,计算保存方案实现了至少90%的任务完成率,并将时延减少了最多61.81%。
IEEE Transactions on Computers是计算机体系结构领域的顶级期刊之一,属于中国计算机学会CCF A类期刊,当前影响因子为3.6。
(通讯员:牛鑫)