《分布式资源环境中基于多智能体的协作机器学习》最新217页

如今，几乎不可能有哪一门学科不受机器学习（ML）研究和应用的影响。有几个因素推动了 ML 的快速和广泛发展，包括设备产生的大量复杂数据、价格低廉但功能强大的处理单元和存储介质的普及，以及人类生活对自适应、自动化、安全和大规模解决方案和服务的需求不断增长。尽管具有广泛的适用性，但在 ML 生态系统中仍存在重大障碍，例如基于 ML 的解决方案的设计和开发严重依赖专家知识，大量的 ML 资源需要组织技术来促进访问、共享和分析，以及由于隐私和安全问题而无法获取高质量数据。目前解决这些障碍的大多数方法都是集中式的，容易出现可扩展性问题，尤其是在处理地理分布资源时。此外，这种集中式解决方案的经常性、性能、安全性和隐私性在很大程度上取决于控制中心或组织的运作。

本论文提出了分布式和基于智能体的解决方案，用于组织数据集和学习模型等机器学习资源。它旨在通过简单而灵活的查询结构使这些资源的分析大众化，使训练、测试、模型选择和超参数调整等常见的机器学习任务自动化，并在分布式数据集上建立以隐私为中心的机器学习模型。基于联网的多智能体系统，所提出的方法将 ML 资源表示为自主和自立的实体。这种表示方法使资源易于移动、可扩展且不受地理位置的限制，从而减少了对集中控制和管理单元的需求。此外，由于所有机器学习和数据挖掘任务都在其资源附近进行，因此提供商可以独立于系统的其他部分应用定制的规则。

论文对提出的模型进行了理论和实证分析。所提出的理论评估证明，所提出的基于多智能体的自动化机器学习任务分散模型在算法上是正确的，在计算上也是可行的。具体来说，如果用户提出的机器学习查询存在答案，模型将以多项式时间复杂度找到答案，并在早期阶段报告潜在故障。另一方面，所提供的实验结果验证了模型的有效性和效率，并分析了它们在各种数据分布设置下的学习行为。

本文的材料分为五个主要章节。第 2 章概述了基于多智能体系统的分布式计算，以及处理大规模问题时经常采用的组织结构。然后，它概述了文献中将分布式计算和基于智能体的技术整合到数据挖掘和机器学习研究中的各种策略。本章还回顾了边缘计算领域广泛使用的协作式机器学习模型方面的现有工作。本章还概述了社区内机器学习任务民主化和自动化的常用方法。第 3 章深入探讨了设计和开发组织多智能体系统的复杂性，该系统旨在以分散和自主的方式自动执行模型训练和测试任务。讨论包括理论证明和经验结果，以仔细检查系统的性能。第4章提出了一种基于智能体的全自动协作机制，用于以分布式方式选择机器学习算法，并同时调整其超参数。本章利用所提出的基于智能体的平台，从形式上和经验上深入研究了这些机制的有效性和效率。第5章介绍了全息学习（Holonic Learning，HoL），这是一个以协作和隐私为重点的学习框架，通过利用全息概念来训练深度学习模型。本章展示了多个实验设置，以验证和检查拟议模型的收敛性和性能。第 6 章总结了本论文的贡献，并讨论了理论和实证研究结果。此外，本章还讨论了尚存在的挑战，并为该领域未来的研究工作提出了建议。