TinyML 与 LargeML 的融合：面向 6G 及未来的综述

摘要—从 5G 网络向 6G 的演进凸显了对机器学习（ML）的强烈需求。特别是深度学习（DL）模型，已广泛应用于移动网络与通信领域，以支持智慧医疗、智能电网、自动驾驶、空中平台、数字孪生与元宇宙等新兴无线环境下的高级服务。

随着物联网（IoT）设备数量的迅速增长，其中许多设备具备有限的计算能力，促使人们加快发展微型机器学习（TinyML）与资源高效的机器学习方法，以实现成本敏感型服务。然而，部署**大规模机器学习（LargeML）**解决方案通常需要强大的计算资源与复杂的管理策略，以支撑大规模 IoT 服务和基于 ML 的内容应用。因此，TinyML 与 LargeML 的融合被视为未来实现无缝连接与高效资源管理的一种极具前景的方向。

尽管 TinyML 与 LargeML 的集成潜力巨大，但仍面临诸多挑战，包括性能优化、实际部署策略、资源管理效率以及安全性考量。在本综述中，我们回顾并分析了最新研究进展，旨在推动 TinyML 与 LargeML 模型的融合，以实现未来 6G 网络及更远期发展中的智能服务与应用。最后，本文总结了当前的关键挑战，并指出了实现下一代无线网络中 TinyML 与 LargeML 深度融合的未来研究方向。

关键词—6G、人工智能（AI）、深度学习（DL）、分布式学习、联邦学习（FL）、物联网（IoT）、大规模机器学习（LargeML）、机器学习（ML）、微型机器学习（TinyML）。

一、引言

通信技术的演进历程展现出每十年一次的重大飞跃。从引入移动语音通信的第一代（1G）模拟系统，到以超高速率与低延迟变革产业的第五代（5G）网络，每一代技术都带来了深远的影响 [1]。展望未来，第六代（6G）网络有望进一步突破技术边界，提供前所未有的能力，推动全球创新浪潮。6G 的核心特性将使其显著区别于前几代通信系统（见图1），并赋能多样化应用场景。这些特性聚焦于满足不断增长的数据速率需求、更高的可靠性、更高效的频谱管理能力，以及“超级智能”通信服务。此外，6G 还将实现先进人工智能（AI）与机器学习（ML）技术的深度融合，显著拓展无线网络的能力，提升高端应用与服务的交付质量。 AI 与 ML 的引入将为 6G 带来前所未有的自动化与智能化水平，开启一系列新兴高端应用场景 [2]。当前，AI 已在多个网络层级中运行，用于提升动态资源管理、预测性运维和个性化用户体验。ML 尤其是**深度学习（DL）**架构在图像识别和自然语言处理（NLP）等任务上的突破 [3]，将支持高保真度的全息通信。这将使用户能在沉浸式三维环境中交互，可能彻底变革远程协作方式。在万物互联的未来社会中，6G 将全面释放物联网（IoT）和移动大数据的潜能，推进深度互联时代的到来。

A. 背景与动机

过去十年中，AI 领域逐步聚焦于两种截然不同但互补的范式：TinyML 和 LargeML。TinyML 专注于为资源受限的边缘设备构建高效模型，实现近源数据的实时分析 [4]；而 LargeML 则依赖强大的云计算资源，处理复杂的数据密集型任务，其典型代表包括 GPT-4 与 BERT 等大语言模型，广泛应用于情感分析、文本生成等场景 [5]（如大型语言模型 LLM、生成式 AI、Agentic AI 等）。

然而，LargeML 对算力资源的高度依赖限制了其在资源受限设备上的实时部署能力，同时也带来了隐私风险。而 TinyML 通过在边缘侧预处理数据有效缓解了这些问题；此外，通过**知识蒸馏（Knowledge Distillation）**技术，LargeML 可将压缩模型部署于边缘设备，实现协同学习 [6]。这一协作策略提升了 IoT 服务部署的灵活性和效率。TinyML 可借助 LargeML 的复杂学习能力提升预测精度，而 LargeML 则受益于 TinyML 的实时响应性与隐私保护能力。表1对比了 TinyML 与 LargeML 的主要特性。

将 TinyML 与 LargeML 融合，有望结合两者优势，突破各自的局限性，增强 AI 在 6G 网络中的整体能力。例如，可穿戴健康监测设备可借助 TinyML 实时分析生命体征 [7]，而 LargeML 则基于历史数据识别健康风险。又如，在虚拟环境中，TinyML 可处理脑电信号（EEG）以评估情绪状态 [8]，LargeML 则据此驱动元宇宙中的交互行为 [9]。

尽管前景广阔，这一融合仍面临安全风险、AI 可解释性与数据隐私等挑战。综上所述，结合 TinyML 的轻量部署能力与 LargeML 的强大学习能力，将实现从设备到服务器的无缝互动，推动智能化生活与数据驱动创新的发展。

B. 现状综述与本文贡献

当前的 AI 生态系统由 TinyML 与 LargeML 两种互补范式共同驱动。TinyML 支持资源受限设备在本地执行机器学习任务，而 LargeML 则通过云端训练大型模型以处理海量数据。随着物联网的持续发展和 6G 的临近，这两类学习方式的协同集成展现出巨大潜力，特别是在复杂条件下提升网络性能与服务质量方面。 近年来，关于 TinyML 的综述研究已覆盖其基础知识、开发工具、应用场景与未来方向 [10]–[15]。这些文献突出了 TinyML 在工业 IoT、智能医疗、自动驾驶、环境监测、公共安全、人机交互、农业与应急响应等领域的广泛应用。其中 [10] 强调了软硬件协同设计对于实现高效 TinyML 的关键作用，而 [12] 系统总结了当前主流的开发工具链，包括硬件平台、软件框架和支持库。

然而，在 6G 语境下，现有关于 TinyML 的综述仍存在一些不足。例如，多数文献未能深入探讨其与 LargeML 的集成挑战与协同策略 [11]，对通信协议优化与功耗控制等关键问题着墨不多 [14][15]。 与此同时，LargeML 的研究则聚焦于模型架构、应用范式与部署挑战 [16]–[20]，如对基于 Transformer 的大模型、预训练语言模型（PLMs）的性能分析，以及参数高效微调（PEFT）技术等 [18]。这些研究尽管系统性强，但大多未考虑 LargeML 在 6G 场景下的部署适应性和与 TinyML 的互操作性。

因此，当前仍缺乏系统性综述探讨 TinyML 与 LargeML 融合在 6G 网络中的应用潜力与实现路径。本综述旨在填补这一空白，提供对 TinyML–LargeML 融合在 6G 及未来网络范式中应用的系统性分析。其主要贡献如下： * 背景回顾：系统梳理 TinyML 与 LargeML 的发展脉络，分析各自优势与协同可能性； * 融合动因与需求：总结融合的技术动机、设计需求及其在 6G 架构中的关键作用； * 高效集成策略：提出并评估一系列双向融合机制，提升模型性能与系统智能水平； * 应用分析：深入探讨融合系统在智能医疗、自动驾驶、工业 IoT 等领域的应用实践； * 挑战与未来研究方向：归纳现有挑战，提出未来研究方向，如资源调度、通信效率、标准化与安全性等。

C. 文章结构

本文其余部分结构如下：第二部分介绍 TinyML 与 LargeML 的基础概念与近期发展；第三部分分析在 6G 网络中推动二者融合的动因与技术需求；第四部分综述高效的双向融合策略，包括迁移学习（TL）、联邦迁移学习（FTL）、分裂学习（SL）与联邦分裂学习（FSL）；第五部分探讨融合系统在数据隐私、网络安全、零接触网络、类脑元宇宙等领域的应用；第六部分总结研究见解，提出未来的研究方向；第七部分为全文结语。