【哥伦比亚大学】复杂网络深度表示的几何和拓扑推理，Geometric and Topological Inference for Deep Representations of Complex Networks

理解复杂网络的深度表示是在互联网时代构建可解释和值得信赖的机器学习应用的重要一步。近似于黑箱模型(如人工或生物神经网络)预测的全局代理模型通常用于为模型可解释性提供有价值的理论见解。为了评估代理模型在另一个模型中的表示能力，我们需要开发用于模型比较的推理方法。之前的研究已经比较了模型和大脑的表征几何(以模型层或皮层区域中输入模式的表征之间的距离矩阵为特征)。在本研究中，我们提出在模型和大脑中探索这些概括的表示的统计描述，作为更广泛的一类统计的一部分，强调表示的拓扑和几何。拓扑摘要统计建立在拓扑数据分析(TDA)和其他基于图的方法的基础上。我们评估这些统计数据在用于模型选择时提供的敏感性和特异性，目的是将不同的神经网络模型相互联系起来，并对可能最好地解释黑盒表示的计算机制进行推断。这些新方法使大脑和计算机科学家能够将大脑和模型学习到的动态表征转换可视化，并执行模型比较统计推断。