联手分布式计算与系统专业委员会：“边缘运行时情境”术语发布 | CCF术语快线

 

本期发布术语热词：边缘运行时情境(Edge Runtime Context)。

开篇导语：

本期发布术语热词：边缘运行时情境(Edge Runtime Context)。在边缘计算“云-边-端”协同的背景下，如何对边缘节点的运行时配置和“云-边”协同模式进行自适应的优化决策成为一个关键性问题。“边缘运行时情境” 从任务运行时边缘节点的上下文环境角度出发，为边缘计算在配置和部署方面的优化决策提供了有效的凭据。

边缘运行时情境(Edge Runtime Context)

作者：谢磊、金熠波 (南京大学)

InfoBox：

中文名：边缘运行时情境

外文名：Edge Runtime Context

学科：边缘计算

实质：边缘节点在任务运行时的上下文环境

简介：

在边缘计算“云-边-端”协同背景下，边缘节点作为按需协同的重要角色，需要根据“运行时情境”对运行时配置和“云-边”协同模式进行自适应优化决策。所谓“边缘运行时情境”，是指边缘节点在任务运行时的上下文环境，它是边缘计算中决定“云-边-端”协同方案的重要标准。“边缘运行时情境”从运行时的参数角度刻画了系统的实际状态，具体包括：计算任务运行时实际占用的计算资源、存储资源、网络带宽及应用层任务的具体属性等。“边缘运行时情境”通过多维参量构建了边缘计算系统运行时的状态，为边缘计算在配置和部署方面的优化决策提供了有效的凭据。

研究概况：

“边缘运行时情境”指边缘节点在任务运行时的上下文环境，在“云-边”协同计算模式下，为边缘计算在配置和部署方面的自适应优化提供了凭据。

1.云边协同计算

由于海量源数据产生于各类感知或业务终端，边缘计算将云数据中心的计算与存储能力延伸到终端设备附近的网络边缘侧 ^[1] ，使数据和流量更好地本地化，减轻了网络传输压力，降低了网络延迟，增强了服务的响应能力。由此，形成了云数据中心作为系统集中管控“大脑”、边缘节点构成区域自治“小脑”相结合的“云-边”协同计算模式 ^{[2] 。}由于各边缘节点在算力、存储与网络上存在性能限制与差异，需合理配置边缘有限资源，提升各类感知任务、计算任务的执行效果。

2.边缘自适应优化

边缘存在着各类“动态性”^[3]，难以预测、不可控制，包括业务请求量变化导致的负载动态性、感知数据内容变化导致的感知精度动态性、网络带宽变化导致的传输时延动态性等。在动态性因素的影响下，即使云数据中心基于当前状态做出了最佳的任务部署与配置决策，仍然难以保证在边缘节点持续运行过程中达到最佳的感知与计算效果^[4]，更无法达到全局最佳收益。因此各边缘节点（或在云端管控下）还需进行自适应优化^[5]，合理配置各类参数，使边缘节点系统运行的状态更加贴切边缘动态性变化，从而进一步提升边缘资源的利用效益。

图1：视频处理中的“边缘运行时情境”

3.边缘运行时情境的内涵及示例  

在边缘节点运行过程中，运行时参数能够描绘出系统的实际状态^[6,7]，“边缘运行时情境”就刻画了边缘节点在任务运行时的上下文环境，具体包括：计算任务运行时实际占用的计算资源、存储资源、网络带宽及应用层任务的具体属性等，其通过多维参量构建了边缘计算系统运行时的状态，为边缘计算在配置和部署方面的优化决策提供了有效的凭据。如图1所示，对于视频预处理等开销小的任务，可交付给感知源较近的边缘节点完成，并将计算所得中间结果传输给云端，由云端处理计算开销较大的任务。其中，视频处理过程中的计算、存储、带宽，以及帧处理相关的视频应用属性均是边缘运行时情境的组成部分。此外，如图2所示，视频分析过程还可利用“边缘运行时情境”进行自适应优化：在网络波动，有效带宽下降时利用边缘端处理大部分分析任务；在感知目标数量骤增，本地处理无法有效支撑视频分析时利用云端处理计算开销较大的任务。

（a）有效带宽下降时利用边缘端处理大部分分析任务

（b）感知目标数量骤增时利用云端处理计算开销大的任务

图2：“边缘运行时情境”指导配置和调度的自适应优化

4. 边缘运行时情境的相关研究

“边缘运行时情境”涉及的研究内容主要包含以下三方面，如图3所示：1）高效获取边缘节点或运行任务的上下文环境，即情境参数获取；2）利用边缘情境反馈，实现更好的“云-边”任务协同，即边缘情境反馈；以及3）利用“边缘运行时情境”指导边缘节点上自适应的计算配置与决策优化，即情境适配优化。

图3：“边缘运行时情境”的定位

情境参数获取：“边缘运行时情境”通过系统状态参数的获取，对任务运行时的上下文环境进行感知。其中，持续对网络状态、负载状态，及计算状态^[9]等进行监控与记录可作为边缘计算优化的依据。麦吉尔大学的Olaniyan等人^[10]设计了边缘监测工具，持续对资源状况、请求状况、服务部署状况等进行分析。

边缘情境反馈：除“云-边”任务协同中所必要的计算上下文交互外，边缘任务的计算状态与配置也是“边缘运行时情境”的一部分。其可作为边缘反馈，供云端进行全局调度与管控。密歇根大学^[6]与北京邮电大学^[11]团队通过对计算任务进行分割与部署，加速云边任务执行。除关联任务间有计算上下文的交互外，将边缘任务的资源利用情况作为“边缘运行时情境”反馈云端，可供云端决策出全局最佳任务分割方案。对于近年较热的分布式机器学习训练^[12]及流式数据处理^[13]，边缘节点上任务的执行配置，如训练轮数^[14]、采样速率等，也是“边缘运行时情境”的内容，将其反馈云端能指导出全局最佳任务部署与配置。 

情境适配优化：将“边缘运行时情境”作为依据可以指导边缘节点进行自适应的决策优化。以视频播放和分析为例，清华大学团队^[15]将异构终端设备与边缘节点之间的带宽和服务质量作为“边缘运行时情境”进行自适应地视频内容缓存。此外，加利福尼亚大学洛杉矶分校团队^[16]将视频内容变化所引起的像素点、边界等变化作为“边缘运行时情境”进行视频帧的筛选，在资源受限的边缘提高甄别准确率。微软与加州大学伯克利分校团队^[17]将视频分析效果作为“边缘运行时情境”，自适应地权衡是否对已有分析模型进行再次训练。

参考文献

[1] Fang Liu, Guoming Tang, Youhuizi Li, ZHiping Cai, Xingzhou Zhang, and Tongqing Zhou. A Survey on Edge Computing Systems and Tools. Proceedings of the IEEE, 2019, 107(8): 1537-1562.

[2] 陈玉平,刘波,林伟伟,程慧雯.云边协同综述. 计算机科学, 2021, 48(03):259-268.

[3] Shuzhen Chen, Youming Tao, Dongxiao Yu, Feng Li, and Bei Gong. Distributed Learning Dynamics of Multi-armed Bandits for Edge Intelligence. Elsevier Journal of Systems Architecture, 2021, 114: 1-8.

[4] Hongbo Jiang, Xingxia Dai, Zhu Xiao, and Arun K. Iyengar. Joint Task Offloading and Resource Allocation for Energy-Constrained Mobile Edge Computing. IEEE Transactions on Mobile Computing, 2022, 1-16.

[5] Jin Wang, Jia Hu, Geyong Min, Albert Y. Zomaya, and Nektarios Georgalas. Fast Adaptive Task Offloading in Edge Computing based on Meta Reinforcement Learning. IEEE Transactions on Parallel and Distributed Systems, 2020, 32(1): 242-253.

[6] Yiping Kang, Johann Hauswald, Cao Gao, Austin Rovinski, Trevor N. Mudge, Jason Mars, and Lingjia Tang. Neurosurgeon: Collaborative Intelligence between the Cloud and Mobile Edge. ACM International Conference on Architectural Support for Programming Languages and Operating Systems, 2017, 615-629.

[7] Rongping Lin, Zhijie Zhou, Shan Luo, Yong Xiao, Xiong Wang, Sheng Wang, and Moshe Zukerman. Distributed Optimization for Computation Offloading in Edge Computing. IEEE Transactions on Wireless Communications, 2020, 19(12): 8179-8194.

[8] Luyang Liu, Hongyu Li, and Marco Gruteser. Edge Assisted Real-time Object Detection for Mobile Augmented Reality. ACM Annual International Conference on Mobile Computing and Networking. 2019: 1-16.

[9] Qiang Liu, Siqi Huang, Johnson Opadere, and Tao Han. An Edge Network Orchestrator for Mobile Augmented Reality. IEEE Annual Conference on Computer Communications, 2018: 756-764.

[10] Richard Olaniyan, Olamilekan Fadahunsi, Muthucumaru Maheswaran, and Mohamed Faten Zhani. Opportunistic Edge Computing: Concepts, Opportunities and Research Challenges. Future Generation Computer Systems, 2018, 89: 633-645.

[11] Wenchen He, Shaoyong Guo, Song Guo, Xuesong Qiu, and Feng Qi. Joint DNN Partition Deployment and Resource Allocation for Delay-sensitive Deep Learning Inference in IoT. IEEE Internet of Things Journal, 2020, 7(10): 9241-9254.

[12] 杨强.联邦学习：人工智能的最后一公里.智能系统学报, 2020, 15(01):183-186.

[13] Haoyu Zhang, Ganesh Ananthanarayanan, Peter Bodik, Matthai Philipose, Paramvir Bahl, and Michael J. Freedman. Live Video Analytics at Scale with Approximation and Delay-Tolerance. USENIX Symposium on Networked Systems Design and Implementation. 2017: 377-392.

[14] Shiqiang Wang, Tiffany Tuor, Theodoros Salonidis, Kin K. Leung, Christian Makaya, Ting He, and Kevin Chan. Adaptive Federated Learning in Resource Constrained Edge Computing Systems. IEEE Journal on Selected Areas in Communications, 2019, 37(6): 1205-1221.

[15] Chunyu Qiao, Jiliang Wang, and Yunhao Liu. Beyond QoE: Diversity Adaptation in Video Streaming at the Edge. IEEE/ACM Transactions on Networking, 2020, 29(1): 289-302.

[16] Yuanqi Li, Arthi Padmanabhan, Pengzhan Zhao, Yufei Wang, Guoqing Harry Xu, and Ravi Netravali. Reducto: On-camera Filtering for Resource-efficient Real-time Video Analytics. ACM Annual Conference of the Special Interest Group on Data Communication on the Applications, Technologies, Architectures, and Protocols for Computer Communication, 2020: 359-376.

[17] Romil Bhardwaj, Zhengxu Xia, Ganesh Ananthanarayanan, Junchen Jiang, YUanchao Shu, Nikolaos Karianakis, Kevin Hsieh, Paramvir Bahl, and Ion Stoica. Ekya: Continuous Learning of Video Analytics Models on Edge Compute Servers. USENIX Symposium on Networked Systems Design and Implementation, 2022: 119-135.

备注：本稿件得到了YOCSEF南京边缘计算活动的大力支持。

作者介绍

（南京大学）

谢磊

研究领域：边缘智能，普适计算

lxie@nju.edu.cn

（南京大学）

金熠波

研究领域：边缘智能，大数据系统，分布式机器学习

yibo.jin@smail.nju.edu.cn

  术语工委及术语平台介绍：

计算机术语审定委员会(Committee on Terminology)主要职能为收集、翻译、释义、审定和推荐计算机新词，并在CCF平台上宣传推广。这对厘清学科体系，开展科学研究，并将科学和知识在全社会广泛传播，都具有十分重要的意义。

术语众包平台CCFpedia的建设和持续优化，可以有效推进中国计算机术语的收集、审定、规范和传播工作，同时又能起到各领域规范化标准定制的推广作用。

新版的CCFpedia计算机术语平台(http://term.ccf.org.cn)将术语的编辑运营与浏览使用进行了整合，摒弃老版中跨平台操作的繁琐步骤，在界面可观性上进行了升级，让用户能够简单方便地查阅术语信息。同时，新版平台中引入知识图谱的方式对所有术语数据进行组织，通过图谱多层关联的形式升级了术语浏览的应用形态。

计算机术语审定工作委员会

主任：

刘挺（哈尔滨工业大学）

副主任：

王昊奋（同济大学）

李国良（清华大学）

主任助理：

李一斌（上海海乂知信息科技有限公司）

执行委员：

丁军（上海海乂知信息科技有限公司）

林俊宇（中国科学院信息工程研究所）

兰艳艳（清华大学）

张伟男（哈尔滨工业大学）

点击“阅读原文”，加入CCF。