【导读】近年来,随着深度学习算法的进步,自然语言处理技术得到了充分的发展。但该领域中仍存在着很多急需解决的关键问题,本文为大家带来了斯坦福NLP Group的最新报告,介绍自然语言处理技术中的学习挑战。
介绍:
随着语言学习过程中可用数据的不断增长,语言结构的作用越来越受到重视。与此同时,研究者需要仔细检查数据中的模式信息,这些模式可能会令模型在基准测试中获得较高的性能。在本次讲座中,将讨论这些挑战。
首先,将介绍脚手架学习(scaffolded learning)的范式。脚手架将令我们可以通过一个结构化数据源的归纳偏差,来预测结构相关的不同句子,在这一过程中仅需要使用一些必要的监督信息。我们将展示由此产生的语言表示,在一系列任务中的性能效果,表明即使是在强大的深度学习架构中,语言结构仍然是非常有意义的。
在第二部分,将展示自然语言处理模型在大数据环境中所展示出来的一些属性,即使这些模型在某些任务中表现出色,有时甚至声称会击败人类,但仔细观察就会发现,模型预测的并不是某种复杂推理的结果,而且任务也没有以通用的方式来完成。相反,这种成功很大程度上依赖了数据集上的标注工作。
最后,我们将讨论该领域中发现的问题,以及未来的工作方向。
原始链接
https://nlp.stanford.edu/seminar/details/sswayamdipta.shtml
请关注专知公众号(点击上方蓝色专知关注)
后台回复“LCNLP” 就可以获取《自然语言处理学习挑战》的下载链接~
作者简介:
Swabha Swayamdipta是CMU语言技术研究所的博士生(目前是华盛顿大学的访问生),她与Noah Smith和Chris Dyer合作,开发用于语言结构预测的高效算法,研究重点是使模型能够整合句法信息。在攻读博士学位之前,她在哥伦比亚大学获得了硕士学位,并曾在Google AI与西雅图的Allen人工智能研究所进行研究实习。
附报告全文:
-END-
专 · 知
专知《深度学习:算法到实战》课程全部完成!520+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询!
请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询《深度学习:算法到实战》课程,咨询技术商务合作~
请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料!
点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程