会员服务
多语言机器翻译 · 持续学习 ·
2021 年 3 月 14 日
【NAACL2021-Google】通过词汇替换实现对多语言机器翻译的持续学习
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

我们提出了一个简单的词汇适应方案来扩展多语言机器翻译模型的语言能力，为多语言机器翻译的高效持续学习铺平了道路。该方法适用于大规模的数据集，适用于具有不可见脚本的远程语言，仅对原语言对的翻译性能有较小的降低，即使在仅对新语言拥有单语数据的情况下，也能提供具有很好的性能。

https://www.zhuanzhi.ai/paper/e0b15338f98c37775bd0113ceaa1d9dd

成为VIP会员查看完整内容
https://www.zhuanzhi.ai/paper/e0b15338f98c37775bd0113ceaa1d9dd
Towards Continual Learning for Multilingual Machine Translation via Vocabulary Substitution
15

相关内容

持续学习最新综述论文，29页pdf
持续学习最新综述论文，29页pdf
专知会员服务
117+阅读 · 2021年4月22日
【NAACL2021】信息解缠正则化持续学习的文本分类
【NAACL2021】信息解缠正则化持续学习的文本分类
专知会员服务
21+阅读 · 2021年4月11日
【DeepMind】无归一化的高性能大规模图像识别
【DeepMind】无归一化的高性能大规模图像识别
专知会员服务
8+阅读 · 2021年2月14日
【AAAI2021】非独立同分布下的自分组个性化联邦学习
专知会员服务
26+阅读 · 2021年2月2日
【AAAI2021】知识图谱增强的预训练模型的生成式常识推理
【AAAI2021】知识图谱增强的预训练模型的生成式常识推理
专知会员服务
72+阅读 · 2021年1月25日
【GPT-3作者亲解】超大型语言模型少样本学习，109页ppt
【GPT-3作者亲解】超大型语言模型少样本学习，109页ppt
专知会员服务
107+阅读 · 2020年12月19日
【Cell 2020】神经网络中的持续学习
【Cell 2020】神经网络中的持续学习
专知会员服务
59+阅读 · 2020年11月7日
【EMNLP2020】自然语言分类任务的自监督元学习
专知会员服务
29+阅读 · 2020年9月18日
【ACL2020-Google】BLEURT:一种基于迁移学习的自然语言生成度量
【ACL2020-Google】BLEURT:一种基于迁移学习的自然语言生成度量
专知会员服务
19+阅读 · 2020年5月12日
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
专知会员服务
44+阅读 · 2020年2月12日
【Google AI-Luong】无标记数据学习, 83ppt, 一致性学习与自监督学习是什么？
【Google AI-Luong】无标记数据学习, 83ppt, 一致性学习与自监督学习是什么？
专知
12+阅读 · 2020年3月5日
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
专知
12+阅读 · 2020年2月12日
单语言表征如何迁移到多语言去？
单语言表征如何迁移到多语言去？
AI科技评论
5+阅读 · 2019年11月21日
NAACL 2019 | 注意力模仿：通过关注上下文来更好地嵌入单词
NAACL 2019 | 注意力模仿：通过关注上下文来更好地嵌入单词
AI科技评论
4+阅读 · 2019年11月12日
[Google]BERT压缩到7MB！最新基于最优子词和共享投影的极限语言压缩模型
[Google]BERT压缩到7MB！最新基于最优子词和共享投影的极限语言压缩模型
专知
31+阅读 · 2019年10月6日
SFFAI 37 报名通知 | 机器翻译专场之同步双向与多语言机器翻译
SFFAI 37 报名通知 | 机器翻译专场之同步双向与多语言机器翻译
人工智能前沿讲习班
3+阅读 · 2019年6月25日
谷歌BERT斩获最佳长论文！自然语言顶会NAACL2019最佳论文5篇出炉
谷歌BERT斩获最佳长论文！自然语言顶会NAACL2019最佳论文5篇出炉
专知
5+阅读 · 2019年4月11日
赛尔原创 | IJCAI 2018 利用跨语言知识改进稀缺资源语言命名实体识别
赛尔原创 | IJCAI 2018 利用跨语言知识改进稀缺资源语言命名实体识别
哈工大SCIR
7+阅读 · 2018年5月21日
干货 | 揭开多语言词嵌入模型的神秘面纱
干货 | 揭开多语言词嵌入模型的神秘面纱
AI科技评论
5+阅读 · 2018年4月3日
谷歌神经网络机器翻译NMT：人人可利用TensorFlow快速建立翻译模型（附教程）
谷歌神经网络机器翻译NMT：人人可利用TensorFlow快速建立翻译模型（附教程）
全球人工智能
7+阅读 · 2017年7月14日
Rethinking Semantic Segmentation from a Sequence-to-Sequence Perspective with Transformers
Arxiv
10+阅读 · 2020年12月31日
Unsupervised Domain Clusters in Pretrained Language Models
Arxiv
11+阅读 · 2020年4月5日
UniLMv2: Pseudo-Masked Language Models for Unified Language Model Pre-Training
Arxiv
15+阅读 · 2020年2月28日
Extreme Language Model Compression with Optimal Subwords and Shared Projections
Extreme Language Model Compression with Optimal Subwords and Shared Projections
Arxiv
18+阅读 · 2019年9月25日
Latent Relation Language Models
Arxiv
21+阅读 · 2019年8月21日
Sparse Sequence-to-Sequence Models
Sparse Sequence-to-Sequence Models
Arxiv
5+阅读 · 2019年5月14日
You May Not Need Attention
Arxiv
4+阅读 · 2018年10月31日
Variational Recurrent Neural Machine Translation
Arxiv
5+阅读 · 2018年1月16日
Fluency-Guided Cross-Lingual Image Captioning
Arxiv
3+阅读 · 2017年8月15日
Continuous Time Dynamic Topic Models
Arxiv
3+阅读 · 2015年5月16日
VIP会员
相关主题
多语言机器翻译
持续学习
相关VIP内容
持续学习最新综述论文，29页pdf
持续学习最新综述论文，29页pdf
专知会员服务
117+阅读 · 2021年4月22日
【NAACL2021】信息解缠正则化持续学习的文本分类
【NAACL2021】信息解缠正则化持续学习的文本分类
专知会员服务
21+阅读 · 2021年4月11日
【DeepMind】无归一化的高性能大规模图像识别
【DeepMind】无归一化的高性能大规模图像识别
专知会员服务
8+阅读 · 2021年2月14日
【AAAI2021】非独立同分布下的自分组个性化联邦学习
专知会员服务
26+阅读 · 2021年2月2日
【AAAI2021】知识图谱增强的预训练模型的生成式常识推理
【AAAI2021】知识图谱增强的预训练模型的生成式常识推理
专知会员服务
72+阅读 · 2021年1月25日
【GPT-3作者亲解】超大型语言模型少样本学习，109页ppt
【GPT-3作者亲解】超大型语言模型少样本学习，109页ppt
专知会员服务
107+阅读 · 2020年12月19日
【Cell 2020】神经网络中的持续学习
【Cell 2020】神经网络中的持续学习
专知会员服务
59+阅读 · 2020年11月7日
【EMNLP2020】自然语言分类任务的自监督元学习
专知会员服务
29+阅读 · 2020年9月18日
【ACL2020-Google】BLEURT:一种基于迁移学习的自然语言生成度量
【ACL2020-Google】BLEURT:一种基于迁移学习的自然语言生成度量
专知会员服务
19+阅读 · 2020年5月12日
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
专知会员服务
44+阅读 · 2020年2月12日
热门VIP内容
相关资讯
【Google AI-Luong】无标记数据学习, 83ppt, 一致性学习与自监督学习是什么？
【Google AI-Luong】无标记数据学习, 83ppt, 一致性学习与自监督学习是什么？
专知
12+阅读 · 2020年3月5日
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
【Google AI新论文】REALM:检索增强语言模型预训练，QA的SOTA提升4-16%准确性
专知
12+阅读 · 2020年2月12日
单语言表征如何迁移到多语言去？
单语言表征如何迁移到多语言去？
AI科技评论
5+阅读 · 2019年11月21日
NAACL 2019 | 注意力模仿：通过关注上下文来更好地嵌入单词
NAACL 2019 | 注意力模仿：通过关注上下文来更好地嵌入单词
AI科技评论
4+阅读 · 2019年11月12日
[Google]BERT压缩到7MB！最新基于最优子词和共享投影的极限语言压缩模型
[Google]BERT压缩到7MB！最新基于最优子词和共享投影的极限语言压缩模型
专知
31+阅读 · 2019年10月6日
SFFAI 37 报名通知 | 机器翻译专场之同步双向与多语言机器翻译
SFFAI 37 报名通知 | 机器翻译专场之同步双向与多语言机器翻译
人工智能前沿讲习班
3+阅读 · 2019年6月25日
谷歌BERT斩获最佳长论文！自然语言顶会NAACL2019最佳论文5篇出炉
谷歌BERT斩获最佳长论文！自然语言顶会NAACL2019最佳论文5篇出炉
专知
5+阅读 · 2019年4月11日
赛尔原创 | IJCAI 2018 利用跨语言知识改进稀缺资源语言命名实体识别
赛尔原创 | IJCAI 2018 利用跨语言知识改进稀缺资源语言命名实体识别
哈工大SCIR
7+阅读 · 2018年5月21日
干货 | 揭开多语言词嵌入模型的神秘面纱
干货 | 揭开多语言词嵌入模型的神秘面纱
AI科技评论
5+阅读 · 2018年4月3日
谷歌神经网络机器翻译NMT：人人可利用TensorFlow快速建立翻译模型（附教程）
谷歌神经网络机器翻译NMT：人人可利用TensorFlow快速建立翻译模型（附教程）
全球人工智能
7+阅读 · 2017年7月14日
相关论文
Rethinking Semantic Segmentation from a Sequence-to-Sequence Perspective with Transformers
Arxiv
10+阅读 · 2020年12月31日
Unsupervised Domain Clusters in Pretrained Language Models
Arxiv
11+阅读 · 2020年4月5日
UniLMv2: Pseudo-Masked Language Models for Unified Language Model Pre-Training
Arxiv
15+阅读 · 2020年2月28日
Extreme Language Model Compression with Optimal Subwords and Shared Projections
Extreme Language Model Compression with Optimal Subwords and Shared Projections
Arxiv
18+阅读 · 2019年9月25日
Latent Relation Language Models
Arxiv
21+阅读 · 2019年8月21日
Sparse Sequence-to-Sequence Models
Sparse Sequence-to-Sequence Models
Arxiv
5+阅读 · 2019年5月14日
You May Not Need Attention
Arxiv
4+阅读 · 2018年10月31日
Variational Recurrent Neural Machine Translation
Arxiv
5+阅读 · 2018年1月16日
Fluency-Guided Cross-Lingual Image Captioning
Arxiv
3+阅读 · 2017年8月15日
Continuous Time Dynamic Topic Models
Arxiv
3+阅读 · 2015年5月16日
微信扫码咨询专知VIP会员
Top