对称和不变性在机器学习任务中无处不在。虽然卷积神经网络以成功利用平移对称性而闻名，但其他对称性直到最近才经常被忽视。将对称性或不变性纳入神经网络体系结构可以避免昂贵的数据增强，并减轻对大型数据集的需求。提出的工作集中在不变和等变神经网络层，把对称性放在神经网络架构设计的中心。具体而言，本文涵盖了三种不同的不变性:排列不变性、旋转-平移不变性和标签不变性。
- 对称和不变性在机器学习任务中无处不在。虽然卷积神经网络以成功利用平移对称性而闻名，但其他对称性直到最近才经常被忽视。
- 将对称性或不变性纳入神经网络体系结构可以避免昂贵的数据增强，并减轻对大型数据集的需求。
- 提出的工作集中在不变和等变神经网络层，把对称性放在神经网络架构设计的中心。具体而言，本文涵盖了三种不同的不变性:排列不变性、旋转-平移不变性和标签不变性
成为VIP会员查看完整内容
Learning invariant representations in neural networks
相关内容
牛津大学是一所英国研究型大学，也是罗素大学集团、英国“G5超级精英大学”，欧洲顶尖大学科英布拉集团、欧洲研究型大学联盟的核心成员。牛津大学培养了众多社会名人，包括了27位英国首相、60位诺贝尔奖得主以及数十位世界各国的皇室成员和政治领袖。2016年9月，泰晤士高等教育发布了2016-2017年度世界大学排名，其中牛津大学排名第一。
Arxiv
11+阅读 · 2021年9月24日
相关VIP内容
相关资讯
相关论文
Arxiv
11+阅读 · 2021年9月24日
微信扫码咨询专知VIP会员