【新书稿】数据科学的谱方法:统计的视角,168页pdf

谱方法已经成为一种从大量、噪声和不完整的数据中提取信息的简单而有效的方法。简而言之，谱方法指的是建立在特征值和特征向量上的一组算法。在机器学习、成像科学、金融和计量建模以及信号处理领域，已经发现了一系列不同的应用，包括推荐系统、社区检测、排名、结构化矩阵恢复、张量数据估计、关节形状匹配、盲反褶积、金融投资、风险管理、治疗评估，因果推理等等。由于其简单和有效性，谱方法不仅被用作独立的估计器，而且经常被用于促进其他更复杂的算法，以提高性能。虽然谱方法的研究可以追溯到经典的矩阵摄动理论和矩量方法，但在过去的十年中，通过统计建模的视角，借助集中不等式和非渐近随机矩阵理论，在揭开其效力的神秘面纱方面，已经见证了巨大的理论进步。本专论旨在从现代统计角度系统地、全面地介绍谱方法，突出它们在不同的大规模应用中的算法含义。特别地，我们的论述围绕着几个中心问题，这些问题涉及不同的应用:如何描述谱方法在达到统计精度目标水平时的样本效率，以及如何评估它们在面对随机噪声、缺失数据和对抗性破坏时的稳定性?除了传统的l2摄动分析，我们提出了一个系统的l∞和l2，∞摄动理论的特征空间和奇异子空间，这是最近才成为可用的强大的“留一”分析框架。