近日,厦门大学信息学院杨和林副教授和肖亮教授在智能边缘计算和无线网络研究取得重要进展,与新加坡南洋理工大学Kwok-Yan Lam教授、Dusit Niyato教授和Hao Hu博士,新加坡设计大学Zehui Xiong教授, 和普林斯顿大学H. Vincent Poor教授合作,共同完成的科研成果,Lead federated neuromorphic learning for wireless edge artificial intelligence,以厦门大学为第一署名单位发表于在国际期刊《Nature Communications》上。

https://www.nature.com/articles/s41467-022-32020-w

近年来,随着移动计算和物联网(IoT)的快速发展,传感器、机器人和智能手机等数十亿设备连接在一起,产生了大量数据。在这驱动下,边缘人工智能(AI)这一强大技术融合了边缘计算和AI,使边缘网络的设备能够本地分析和处理数据,无需将收集的数据传输到中心服务器。此技术不仅有助于数据隐私保护,还可以减少数据流量和网络延迟。此外,在边缘网络中,通过深度学习为语音识别、图像和视频分类以及目标检测训练,已实现高精度检测性能。尽管拥有这些优点,边缘计算仍然面临以下两个基本挑战。首先,深度学习等算法本质上依赖于复杂的学习方法,同时需要足够丰富的训练数据集。因此,边缘设备在有限的局部数据集上很难训练得到可靠的模型。其次,机器学习算法通常需要大量计算和训练能耗,这阻碍了能量受限的边缘设备训练/分析数据。 本文提出了领导式联邦神经形态学习方案(LFNL),是一种基于SNN的分散式大脑启发计算方法,使多个边缘设备无需中心协调器的情况下协作训练全局神经形态模型。同时,我们提出了一种领导者选举方案,选择一个具有高能力(例如计算和通信能力)的设备作为领导者来管理模型聚合。该方法可以有效地加快联邦学习的收敛速度,抵御模型中毒攻击。

图1.领导式联邦神经形态学习系统示意图

图1a显示了人类社交网络的示意图。每个人通过五个感觉器官观察外部环境的模拟刺激,然后使用神经元将刺激转化为尖峰信号,最后由人脑处理。每个人建立一个相应的知识模型,然后与其他人共享该模型,以创建一个优化的知识模型,以便更好地感知外界环境。受此启发,边缘人工智能引入了联邦神经形态学习系统(图1b),其中边缘设备配备了摄像机(视觉)、麦克风(听觉)、雷达(物体感应)、压力传感器(触摸)和射频信号检测器(无线通信)。这些传感器采用SNN作为神经形态处理器,将检测到的信息转换为尖峰信号。

LFNL由一个组中的一个领导者和多个追随者实现(图1d),学习模型参数通过分布式网络共享和交换,每个设备在本地数据上独立训练其模型。受仿人学习功能的启发,LFNL通过使用神经形态学习训练或评估来自听觉、视觉和雷达系统的尖峰信号来实现对外界环境的感知(图1e)。 这项工作不仅推动智能边缘计算、多模态网络和无线网络领域突破性发展的新策略,而且提供了一种技术和应用上可行的类脑神经计算思维方式,这些探索将为多模态网络、虚拟现实以及元宇宙等的应用发展提供一定的参考意义。

Helin Yang, Kwok-Yan Lam*, Liang Xiao, Zehui Xiong, Hao Hu, Dusit Niyato and H. Vincent Poor, Lead federated neuromorphic learning for wireless edge artificial intelligence.Nature Communication**13,**4269 (2022).

成为VIP会员查看完整内容
30

相关内容

移动边缘网络中联邦学习效率优化综述
专知会员服务
47+阅读 · 2022年7月9日
「知识蒸馏」最新2022研究综述
专知会员服务
121+阅读 · 2022年3月20日
专知会员服务
50+阅读 · 2021年7月18日
「知识蒸馏」最新2022研究综述
专知
3+阅读 · 2022年3月20日
脉冲神经网络,下一代机器学习?
专知
12+阅读 · 2018年1月13日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年10月3日
VIP会员
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员