边缘人工智能(AI)包括一个由互联系统和设备组成的网络,这些系统和设备接收、缓存、处理和分析与数据捕获位置密切相关的数据。近年来,AI效率的提升、物联网(IoT)设备的广泛使用以及边缘计算的兴起,揭示了边缘AI的巨大潜力。边缘AI的目标是优化数据处理的效率和速度,同时确保数据的机密性和完整性。尽管这一研究领域相对较新,从2014年开始到现在,但在过去五年中已经显示出显著和快速的发展。在本文中,我们对边缘AI进行了系统的文献综述,讨论了现有研究、最新进展和未来的研究方向。我们创建了一个用于云和边缘计算分析的协作边缘AI学习系统,包括对支持这一机制的架构的深入研究。边缘AI的分类法有助于边缘AI系统的分类和配置,同时还考察了其在基础设施、云计算、雾计算、服务、使用案例、机器学习和深度学习以及资源管理等诸多领域的潜在影响。本研究强调了边缘AI在网络边缘处理实时数据的重要性。此外,它还突出了边缘AI系统面临的研究挑战,包括资源限制、安全威胁的脆弱性以及可扩展性问题。最后,本研究强调了旨在通过提供创新解决方案来解决边缘AI当前局限性的潜在未来研究方向。
关键词:边缘计算、人工智能、云计算、机器学习、边缘AI
近年来,人工智能(AI)效率的提升、物联网(IoT)设备的采用以及边缘计算能力的增强,正在共同释放边缘人工智能(Edge AI)的潜力【1】。众多分析师和企业正在讨论和实施边缘计算,其起源可以追溯到20世纪90年代,当时位于客户附近的边缘服务器被用于通过内容分发网络提供网页和视频内容【2】。在这一边缘AI中,边缘计算是一种范式转换,它将数据存储和处理更接近数据源,从而提高响应时间并减少带宽使用。与传统云计算不同的是,边缘计算在网络的边缘处理数据【3】。这种接近性降低了延迟,提高了实时数据处理能力,并支持IoT设备和服务的扩展【4】。边缘计算的主要优势包括服务灵活性提高、低延迟、增强的一致性以及消除单点故障,使其在智能城市、自主车辆和工业自动化应用中高度相关【5】。通过地理分布计算资源,边缘计算确保数据处理发生在数据源附近,满足实时分析和决策的需求。
另一方面,AI包含广泛的技术和方法,使机器能够执行通常需要人类智能的任务,如学习、推理和自我纠正【6】。AI的应用涉及多个领域,包括医疗、金融、交通等,在这些领域,AI用于分析大型数据集、自动化任务和提供预测性见解【7】。将AI整合到不同部门中,已经通过提高效率、改进决策和创造创新机会,彻底改变了流程。随着机器学习(ML)或深度学习(DL)的改进,AI方法在执行需要人类认知功能的复杂任务方面变得越来越有能力【8】。特别是涉及神经网络的AI算法在图像和语音识别、自动驾驶和预测性维护等领域取得了显著成功。
边缘计算与AI的融合涉及在用户设备上处理AI算法,提供如降低延迟、能源效率和实时应用等益处。这种集成允许在源头进行实时数据处理和决策,显著减少延迟和带宽使用【9】。边缘计算与AI的结合使得更智能和更灵敏的应用成为可能,如自主车辆、工业物联网、智能家居系统等。通过利用边缘AI,组织可以实现更高的效率、增强的隐私和更快的洞察力,推动各个领域的创新【10】。边缘AI是指在网络边缘集成AI功能,使边缘设备具备分布式智能。其目的是改善网络连接性,支持具有定义质量目标的AI流水线部署,并允许数据驱动应用的适应【11】。在边缘嵌入AI功能解决了基于云处理IoT的局限性,如隐私问题和网络连接问题。边缘AI的部署增强了对延迟敏感的任务,并减少了网络拥塞,提高了无线网络的效率和安全性。
此外,基于AI的技术在解决边缘环境中的服务质量(QoS)感知调度和资源分配挑战方面起着至关重要的作用,确保服务质量和用户体验。边缘AI支持作为服务的AI(AIaaS)部署,具有可配置的模型复杂性和数据质量,提高了性能并降低了成本【12】【13】。这种创新方法通过在边缘利用AI功能,支持智能安全应用并增强分布式系统的安全措施。边缘智能,一种有前途的技术,通过将计算从云服务器转移到IoT边缘设备,赋能实时应用,创造了拥有广阔可能性的智能企业【14】。在边缘而非集中位置利用AI,释放了与IoT设备和边缘计算结合的AI潜力,在资源受限的边缘设备上部署AI算法,用于各种应用如自主车辆、医疗保健和监控。 边缘AI的重要性在于它能够在不将大量数据发送到多个集中位置的情况下提供即时的洞察和行动【15】。这种能力在延迟和带宽是重大限制的情况下尤为关键,如在自主驾驶中,必须实时做出决策,或在医疗保健中,必须快速处理患者数据以提供及时的干预【16】。边缘AI的崛起也得益于硬件的进步,如更强大和高效能的处理器,使得在智能手机和IoT传感器等设备上运行复杂的AI模型成为可能【17】。
将边缘计算与AI结合的动机是多方面的,主要驱动因素是实时处理数据的迫切需求以及解决集中云计算系统固有局限性【18】。随着连接设备数量的指数级增长和数据量的激增,传统的云中心模型越来越多地面临如延迟、带宽限制和显著的数据隐私问题。边缘AI作为解决这些挑战的关键方案,倡导本地化数据处理【19】。这种转变不仅减少了对远程云基础设施的依赖,从而大幅降低延迟,还显著增强了应用对实时数据输入的响应能力。这种范式转变对于推动需要瞬时数据分析和决策的下一代技术发展尤为重要,涵盖了如自主车辆、智能城市基础设施和尖端医疗系统等领域。
此外,边缘AI使得即使在稀疏连接的情况下,应用也能高效运行,通过在源头直接处理数据。这种能力在远程或高度移动的环境中至关重要,在这些环境中,持续和可靠的互联网访问并不总是有保障的【20】。通过现场处理数据,边缘AI显著增强了数据隐私和安全措施,减少了将敏感信息传输到远程服务器的需求。在如医疗和金融等领域,数据的机密性和完整性至关重要,这一特性尤为关键。边缘AI还通过减少需要通过网络传输的数据量,支持带宽效率,是数据密集型应用的经济选择【21】。这种效率不仅降低了运营成本,还缓解了网络拥堵,促进了更顺畅和可靠的数据流。可扩展性是边缘AI提供的另一个重要优势【6】。随着设备网络的扩展,边缘计算允许无缝扩展,而不会因集中处理能力的瓶颈而受限,使企业和技术能够在不受基础设施限制的情况下增长。
总的来说,边缘计算与AI的结合不仅是技术进步,也是满足现代应用动态需求的战略必要。通过提倡降低延迟、增强隐私和安全、提高带宽效率和可扩展性,边缘AI将彻底改变数据驱动决策的方式,迎来一个高效且以隐私为中心的智能时代。
本文的主要贡献是:
第二部分讨论了一个相关的调查,重点关注与边缘AI集成的不同应用中的算法、优化技术、安全和隐私问题。第三部分介绍了边缘AI的背景和现状。第四部分详细描述了采用的审查方法。第五部分概述了涵盖基础设施、云计算、雾计算、服务、用例、机器学习和深度学习以及资源管理的分类法。第六部分基于分类法比较了现有的边缘AI实现。第七部分呈现了分析和获得的结果,并在第八部分讨论了未来的研究方向。最后,第九部分总结了这项调查。
本节为读者解释了与边缘AI背景和现状相关的一些概念。子节III-A解释了边缘计算及其历史起源。子节III-B提供了有关AI与边缘技术整合的信息。接下来通过子节III-C和子节III-D分别解释边缘AI应用和挑战。
边缘计算的概念是一种范式,将计算资源更接近数据源,而不是通过远程服务器提供服务的云计算【51】。这样可以在如今需要处理大量数据的世界中减少不必要的带宽占用和延迟问题【52】。为了理解边缘计算的出现,更有用的是考察之前的范式,如云计算和雾计算。图1显示了云计算、雾计算和边缘计算各自的优点及其层次安排。现在简要介绍这些概念:
云计算:云计算是一种可以追溯到1970年代的范式,指的是用户通过互联网在服务器上使用公共计算资源【53】。今天,主要由大公司如微软Azure、谷歌云平台和IBM云提供给用户的各种服务模式。云计算的优点如下【54】:
高处理能力和集中存储,使用户可以轻松访问资源,只要有互联网。这减少了用户的数据丢失风险,并为用户提供了从任何有互联网的地方工作的自由。
可扩展性,如果计算资源需求增加(需求波动),云计算通过扩展资源提供更多的处理能力和存储服务。这样,保证了SLA和QoS等性能指标。
按使用付费,通过云计算提供的无服务器(功能即服务(FaaS)+ 后端即服务(BaaS))服务模式,用户只为使用的计算资源付费。这样提供了一种经济的模式,吸引更多用户。
雾计算:雾计算的概念由思科在2012年提出【55】。这种范式建议将计算资源更接近网络的终端(如路由器和网关),以减少云计算中的延迟和带宽问题。当查看图1时,雾计算作为云和边缘之间的一层。雾计算的优点如下【56】:
由于将计算资源更接近网络边缘,雾计算的延迟低于云计算。
作为云和终端设备之间的一层,通过处理部分需要发送到云的大量数据,减少不必要的带宽使用。
边缘计算:物联网和传感器技术的发展使得需要处理的数据量增加到巨大的水平。在云计算资源上处理所有这些数据可能导致不必要的带宽占用和延迟问题。因此,边缘计算的概念作为一种通过在数据源附近处理数据来优化延迟和带宽使用的范式应运而生【57】。此外,边缘计算是解决雾计算所带来的复杂性、安全性和管理挑战(额外一层)的良好解决方案【58】。边缘计算的优点如下【59】:
通过将数据处理移到网络边缘,减少延迟和带宽使用,
相比雾计算,提供了如更少的复杂性和更好的安全性等优点。
将AI与边缘计算的概念结合起来是最近的热门话题之一。图2显示了一个解释边缘AI概念的主要图示。边缘AI是在靠近数据源的边缘节点(物联网和移动设备)上分布处理AI算法数据,而不是在集中式云平台上处理数据【60】。这两种技术提供的优点如下【6】:
由边缘和AI概念结合创建的边缘AI应用比基于云的AI应用提供了更低的延迟和更高的安全性。图3展示了其中一些应用。让我们解释这些应用:
结合边缘和AI而产生的边缘AI带来了其提供的优点,但也带来了仍需解决的挑战。这些挑战显示在图4中。让我们解释这些挑战: