Google AI BERT的PyTorch实现

谷歌 AI 的一篇NLP论文引起了社区极大的关注与讨论，被认为是 NLP 领域的极大突破。它在机器阅读理解较高级水平测试SQuAD1.1中表现出惊人的成绩：全部两个衡量指标上全面超越人类！并且还在11种不同NLP测试中创出较佳成绩，包括将GLUE基准推至80.4％（改进7.6％），MultiNLI准确度达到86.7% （改进率5.6％）等。

网上已经有很多关于BERT模型的解读了，了解了BERT的原理之后，相信很多人想要自己动手试一试（但是能不能复现就另说了）！在此小编找到了一个BERT的Pytorch实现版本，供读者参考！ 相信看了代码之后，会对文章有更深的理解！

Github地址：

https://github.com/codertimo/BERT-pytorch

-END-

专 · 知

欢迎微信扫描下方二维码加入专知人工智能知识星球群，获取更多人工智能领域专业知识教程视频资料和与专家交流咨询！

登录www.zhuanzhi.ai或者点击阅读原文，使用专知，可获取更多AI知识资料！

专知运用有多个深度学习主题群，欢迎各位添加专知小助手微信（下方二维码）进群交流（请备注主题类型：AI、NLP、CV、 KG等）

 AI 项目技术 & 商务合作：bd@zhuanzhi.ai, 或扫描上面二维码联系！

请关注专知公众号，获取人工智能的专业知识！

点击“阅读原文”，使用专知