【美陆军·新方法加速人工智能战场决策】《深度压缩卸载：通过交易边缘计算加速神经网络推理以改善网络延迟》网络传感顶级会议最佳论文

会员服务 ·

【美陆军·新方法加速人工智能战场决策】《深度压缩卸载：通过交易边缘计算加速神经网络推理以改善网络延迟》网络传感顶级会议最佳论文

2022 年 11 月 2 日 专知

研究人员在网络传感领域的顶级研究出版平台 Sensys 2020上发表了他们的工作《深度压缩卸载：通过交易边缘计算加速神经网络推理以提高网络延迟》，并获得了最佳论文奖。

美马里兰州 ADELPHI — 一种新的解决方案更有效地压缩和卸载来自战场机器的关键数据，从而在战场上实现更快的 AI 处理和决策。

来自美国陆军作战能力发展司令部（称为 DEVCOM）、陆军研究实验室和来自战场物联网协作研究联盟或 IoBT CRA 的大学合作伙伴的研究人员开发了一种新的解决方案，为战场应用程序提供紧迫的机器智能，即使在本地环境无法促进 AI 处理。

研究人员表示，这种新的解决方案通过实现比以前更高程度的数据压缩，将数据从战场卸载到远程处理引擎。

伊利诺伊大学厄巴纳-香槟分校教授、该实验室 IoBT CRA 的学术负责人Tarek Abdelzaher博士说：“战场上 AI 的计算要求对于许多低容量设备来说是一个负担。” “将数据从现场卸载到计算能力更强的机器是促进更有效处理的潜在解决方案。”

Abdelzaher 说，在陆军相关传感器（如相机、激光雷达、雷达、红外传感器和远程服务器）等现场设备之间传输数据可能需要大量时间。压缩数据可以减轻战场系统的负担，使其能够更有效地将数据发送到其他地方的处理机器——即使是通过低带宽、有争议的链路也是如此。

这种改进的处理速度显着减少了初始感知和后续决策之间的延迟，使指挥官能够立即以智能方式对数据采取行动。

研究人员最近通过从位于白沙导弹靶场的实验室多功能传感区和马萨诸塞州的 IoBT CRA 服务器的一台设备上卸载图像来测试压缩解决方案。研究人员说，对该解决方案的测试表明，压缩比图像的压缩能力有效四倍，这是当前的图像压缩标准。

研究人员通过考虑未来的使用需求，实现了这种超高压缩能力；在压缩过程中，仅保留 AI 稍后需要使用以进行准确处理的那些数据特征。与不考虑未来使用的现有压缩技术相比，这使机器能够实现更高的压缩比——所有这些都不会显着降低准确性。

“例如，在目标是识别图像中不同类型车辆的应用程序中，人工智能使用什么线索来区分不同类型的车辆？” 阿卜杜勒扎赫问道。“当从现场发送数据时，应该通过压缩来保留这些提示。其他不相关的信息可以被压缩掉以提高压缩能力。”

该解决方案可以通过更快的卸载和远程处理将人工智能虚拟地带到现场需求点，从而彻底改变陆军应用的人工智能并提高任务执行的自主性。

论文摘要

随着最近的进展，神经网络已经成为智能物联网系统和传感应用的一个重要构件。然而，过高的计算需求仍然严重阻碍了它们在低端物联网设备上的部署。随着边缘计算的出现，卸载成长为一种有希望的技术，以规避终端设备的限制。然而，在现有的卸载框架中，在本地和边缘设备之间传输数据占据了很大一部分时间，为低延迟的智能服务带来了瓶颈。在这项工作中，我们提出了一个通用框架，称为深度压缩式卸载。通过整合压缩传感理论和深度学习，我们的框架可以将用于卸载的数据编码成微小的尺寸，在本地设备上的开销可以忽略不计，并在边缘服务器上对数据进行解码，同时对完美重建和无损推理提供理论保证。通过用边缘计算资源换取数据传输时间，我们的设计可以在几乎没有精度损失的情况下大幅降低卸载延迟。我们建立了一个深度压缩式卸载系统，为最先进的计算机视觉和语音识别服务提供服务。通过综合评估，与最先进的神经网络卸载系统相比，我们的系统可以持续减少2倍到4倍的端到端延迟，并有1%的精度损失。在网络带宽有限或背景流量密集的条件下，我们的系统可以进一步加快神经网络推理的速度，最高可达35×1。