【NeurIPS2023】神经预测与对齐的谱理论

神经网络的表征常常通过在神经网络反应和生物系统中测得的反应之间进行回归，与生物系统的表征进行比较。许多不同的最先进的深度神经网络产生相似的神经预测，但如何区分在预测神经反应方面表现同样出色的模型仍然不清楚。为了深入了解这一点，我们使用了一个最近的理论框架，该框架将回归的泛化误差与模型激活的频谱偏差以及神经反应与模型的可学习子空间的对齐联系起来。我们将这个理论扩展到模型激活和神经反应之间的回归情况，并定义描述错误嵌入几何的几何属性。我们测试了大量能够预测视觉皮层活动的深度神经网络，结果表明，通过回归测量的低神经预测误差有多种类型的几何形状。该工作表明，仔细分解表征指标可以解释模型如何捕获神经活动，并指明了向改进神经活动模型迈进的方向。

https://www.zhuanzhi.ai/paper/17b0b1923bbd2b9ccfe3726e4e0e2224