Facebook开源CNN机器翻译的PyTorch实现,速度提高80%

2017 年 9 月 19 日 量子位 专注报道AI
李林 编译整理
量子位 出品 | 公众号 QbitAI

还记得Facebook那篇用CNN做机器翻译的论文吗?Convolutional Sequence to Sequence Learning

在那篇论文中,Facebook的研究人员们展示了他们的研究成果:用CNN来做机器翻译,达到顶尖的准确率,速度则是RNN的9倍。

同时,Facebook还开放了seq2seq学习工具包fairseq的Torch源代码和已训练的系统。

最近,Facebook又开源了fairseq的PyTorch版:fairseq-py

根据Facebook在GitHub上的介绍,fairseq-py包含论文中描述的全卷积模型,支持在一台机器上用多GPU进行训练,以及CPU和GPU上的快速beam search生成。

fairseq-py可以用来里实现机器翻译,也能用于其他seq2seq的NLP任务。

这个开源工具包同时还包含英译法、英译德的预训练机器翻译模型。

fairseq-py比之前的Torch版更高效,翻译的速度提高了80%,训练速度提升近50%。

fairseq-py的GitHub链接:
https://github.com/facebookresearch/fairseq-py

论文Convolutional Sequence to Sequence Learning:
https://arxiv.org/abs/1705.03122

Torch版GitHub链接:
https://github.com/facebookresearch/fairseq

用户论坛:
https://groups.google.com/forum/#!forum/fairseq-users

活动报名

加入社群

量子位AI社群8群开始招募啦,欢迎对AI感兴趣的同学,加小助手微信qbitbot3入群;


此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。


进群请加小助手微信号qbitbot3,并务必备注相应群的关键词~通过审核后我们将邀请进群。(专业群审核较严,敬请谅解)

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。

量子位 QbitAI

վ'ᴗ' ի 追踪AI技术和产品新动态


登录查看更多
1

相关内容

【Amazon】使用预先训练的Transformer模型进行数据增强
专知会员服务
56+阅读 · 2020年3月6日
【Google】无监督机器翻译,Unsupervised Machine Translation
专知会员服务
35+阅读 · 2020年3月3日
机器翻译深度学习最新综述
专知会员服务
98+阅读 · 2020年2月20日
《动手学深度学习》(Dive into Deep Learning)PyTorch实现
专知会员服务
119+阅读 · 2019年12月31日
计算机视觉最佳实践、代码示例和相关文档
专知会员服务
18+阅读 · 2019年10月9日
【资源】NLP多标签文本分类代码实现工具包
专知
40+阅读 · 2019年11月20日
Mask R-CNN官方实现“又”来了!基于PyTorch,训练速度是原来2倍
机器学习算法与Python学习
5+阅读 · 2018年10月26日
资源丨用PyTorch实现Mask R-CNN
量子位
6+阅读 · 2018年7月23日
谷歌开源语义图像分割模型DeepLab-v3+ | 附代码
多图对比看懂GAN与VAE的各种变体|附论文
量子位
13+阅读 · 2017年9月5日
Arxiv
8+阅读 · 2019年3月28日
Arxiv
8+阅读 · 2018年11月21日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
7+阅读 · 2018年6月1日
Arxiv
3+阅读 · 2018年6月1日
Arxiv
8+阅读 · 2018年1月25日
VIP会员
相关论文
Arxiv
8+阅读 · 2019年3月28日
Arxiv
8+阅读 · 2018年11月21日
Arxiv
5+阅读 · 2018年9月11日
Arxiv
7+阅读 · 2018年6月1日
Arxiv
3+阅读 · 2018年6月1日
Arxiv
8+阅读 · 2018年1月25日
Top
微信扫码咨询专知VIP会员