【AAAI2021】元标签校正的噪声标签学习

2020 年 12 月 7 日 专知


利用弱监督或有噪声的监督来构建有效的机器学习模型一直是一个重要的研究问题。由于训练深度学习模型对大规模数据集的需求越来越大,其重要性最近进一步增加。弱或嘈杂的监督可能来自多种来源,包括非专业的注释者或基于启发式或用户交互信号的自动标记。有大量的前期工作集中在利用嘈杂的标签。最值得注意的是,最近的研究显示,使用元学习实例重加权方法取得了令人印象深刻的成果,在这种方法中,元学习框架用于为嘈杂标签分配实例权重。在本文中,我们将此方法扩展为元学习框架内的标签校正问题。我们将标签校正过程视为一个元过程,并提出了一个新的基于元学习的框架,称为MLC(元标签校正),用于有噪声标签的学习。具体来说,采用标签校正网络作为元模型,对有噪声的标签进行校正,同时对主模型进行训练,以充分利用校正后的标签。两个模型通过求解一个双层优化问题来联合训练。在图像识别和文本分类任务中,我们使用不同的标签噪声水平和类型进行了广泛的实验。我们比较重加权和修正的方法表明,修正框架解决了一些限制重加权。我们还表明,提出的MLC方法在图像和语言任务上都优于以前的方法。


https://www.microsoft.com/en-us/research/uploads/prod/2020/12/aaai2021_mlc_zheng.pdf


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“MLC” 就可以获取【AAAI2021】元标签校正的噪声标签学习》专知下载链接

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
2

相关内容

【AAAI2021】生成式Transformer的对比三元组提取
专知会员服务
51+阅读 · 2021年2月7日
【AAAI2021】基于双任务一致性的半监督医学图像分割
专知会员服务
31+阅读 · 2021年2月7日
【AAAI2021】双级协作变换器Transformer图像描述生成
专知会员服务
27+阅读 · 2021年1月26日
【AAAI2021】低资源医疗对话生成的图演化元学习
专知会员服务
48+阅读 · 2020年12月26日
【AAAI2021】基于内容迁移的无监督领域自适应语义分割
专知会员服务
18+阅读 · 2020年12月25日
专知会员服务
108+阅读 · 2020年12月21日
【AAAI2021】小样本学习多标签意图检测
专知会员服务
56+阅读 · 2020年12月8日
【AAAI2021】通过离散优化的可解释序列分类
专知会员服务
18+阅读 · 2020年12月5日
【KDD2020-阿里】可调控的多兴趣推荐框架
专知
9+阅读 · 2020年8月11日
【ICML2020】小样本目标检测
专知
7+阅读 · 2020年6月2日
Arxiv
4+阅读 · 2018年12月3日
Arxiv
4+阅读 · 2018年5月4日
Arxiv
6+阅读 · 2018年1月29日
VIP会员
相关VIP内容
【AAAI2021】生成式Transformer的对比三元组提取
专知会员服务
51+阅读 · 2021年2月7日
【AAAI2021】基于双任务一致性的半监督医学图像分割
专知会员服务
31+阅读 · 2021年2月7日
【AAAI2021】双级协作变换器Transformer图像描述生成
专知会员服务
27+阅读 · 2021年1月26日
【AAAI2021】低资源医疗对话生成的图演化元学习
专知会员服务
48+阅读 · 2020年12月26日
【AAAI2021】基于内容迁移的无监督领域自适应语义分割
专知会员服务
18+阅读 · 2020年12月25日
专知会员服务
108+阅读 · 2020年12月21日
【AAAI2021】小样本学习多标签意图检测
专知会员服务
56+阅读 · 2020年12月8日
【AAAI2021】通过离散优化的可解释序列分类
专知会员服务
18+阅读 · 2020年12月5日
Top
微信扫码咨询专知VIP会员