This work proposes an algorithmic framework to learn time-varying graphs from online data. The generality offered by the framework renders it model-independent, i.e., it can be theoretically analyzed in its abstract formulation and then instantiated under a variety of model-dependent graph learning problems. This is possible by phrasing (time-varying) graph learning as a composite optimization problem, where different functions regulate different desiderata, e.g., data fidelity, sparsity or smoothness. Instrumental for the findings is recognizing that the dependence of the majority (if not all) data-driven graph learning algorithms on the data is exerted through the empirical covariance matrix, representing a sufficient statistic for the estimation problem. Its user-defined recursive update enables the framework to work in non-stationary environments, while iterative algorithms building on novel time-varying optimization tools explicitly take into account the temporal dynamics, speeding up convergence and implicitly including a temporal-regularization of the solution. We specialize the framework to three well-known graph learning models, namely, the Gaussian graphical model (GGM), the structural equation model (SEM), and the smoothness-based model (SBM), where we also introduce ad-hoc vectorization schemes for structured matrices (symmetric, hollows, etc.) which are crucial to perform correct gradient computations, other than enabling to work in low-dimensional vector spaces and hence easing storage requirements. After discussing the theoretical guarantees of the proposed framework, we corroborate it with extensive numerical tests in synthetic and real data.
翻译:这项工作提议了一个从在线数据中学习时间变化图的算法框架。 框架所提供的一般性使得它具有模型独立性, 也就是说, 它可以在抽象的公式中进行理论上的分析, 然后在各种模型依赖的图形学习问题下进行即时分析。 它的用户定义的循环更新使得框架能够在非静止环境中运作, 而迭代算法则建立在新的时间变化优化工具上, 明确考虑到时间变化动态, 加速趋同, 隐含解决方案的时序变正化。 我们将框架专门用于三种众所周知的图表学习模型, 即, 由数据驱动的图表学习算法(如果不是全部的话) 通过经验变异矩阵对数据的依赖性算法, 代表了对估算问题的充分统计。 用户定义的循环更新使得框架能够在非静止环境中工作, 而迭接式算法则是在新的时间变化优化工具上明确考虑到时间变化动态, 加速趋同, 并隐含了解决方案的时序。 我们将框架专门用于三种众所周知的图表学习模型模型模型, 即, 数字图形模型( GGGGM) 的图表模型(GGM), 和 结构结构模型的计算模型是, 模型是用于我们进行 的平整级的基的,,, 结构的计算模型, 结构的计算模型是, 结构的平流的计算模型,,, 结构的平流的计算模型,,, 结构的计算模型, 结构的计算模型, 模型, 结构的计算模型, 结构的模型,, 结构的计算模型是,,, 结构模型是,, 结构模型,, 结构模型是,,,,,, 结构的模型是,,, 结构的计算模型, 结构的模型, 结构的模型是, 模型, 模型是, 结构的 模型,, 结构的 结构的 结构的 模型是, 结构的模型是, 结构的模型是, 模型是, 结构的 结构的 结构的 模型是,我们的 结构的 的,,,,, 的,,, 结构的 结构的 结构的 结构的 结构的