[NeurIPS 2020] 球形嵌入的深度度量学习

由于距离度量学习与深度神经网络的无缝结合，近年来深度度量学习受到了广泛的关注。许多人致力于设计不同的基于成对的角损失函数，将嵌入向量的大小和方向信息解耦，保证训练和测试测度的一致性。但是，这些传统的角度损失并不能保证在训练阶段所有的样本嵌入都在同一个超球面上，这会导致批量优化时梯度不稳定，影响嵌入学习的快速收敛。本文首先研究了嵌入范数对角距离深度度量学习的影响，然后提出了一个球面嵌入约束(SEC)来规范范数的分布。SEC自适应地调整嵌入，以落在同一个超球体上，并执行更平衡的方向更新。在深度度量学习、人脸识别和对比自监督学习方面的大量实验表明，基于SEC的角空间学习策略显著提高了最先进的性能。

https://arxiv.org/abs/2011.02785

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“DMLSE” 可以获取《[NeurIPS 2020] 球形嵌入的深度度量学习》专知下载链接索引

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取5000+AI主题知识资源