微软要教机器学会阅读、回答和提问

2017 年 5 月 8 日 微软研究院AI头条


Rangan Majumder、Yi‐Min Wang 和高剑锋(自左至右)在微软雷德蒙研究院。


微软机器阅读工作可以追溯到大约20年前研究者在自然语言处理领域所做的早期工作。随着过去几年人工智能的发展,机器阅读也从更好的深度学习算法、大幅提升的云计算能力和海量数据中大受脾益。微软在SQuAD(Stanford Question Answering Dataset)文本理解挑战赛,这一机器阅读领域的核心基准上的成绩一直稳居榜首。尽管如此,为了创造出可以同时在语言及其细微差别方面真正理解人类诉求的系统,仍然有大量工作要做。(本文转载自机器之心,译自Microsoft is teaching systems to read, answer and even ask questionsRead more 请点击文末阅读原文或者直接将网址复制至浏览器中打开即可查看 https://blogs.microsoft.com/next/2017/05/04/microsoft-is-teaching-systems-to-read-answer-and-even-ask-questions/#rhuyYf27jpBWLlZx.99)


微软的研究员目前已经创造出了能够像人类一样完成两种困难任务的技术:图像识别和语音识别。现在微软的顶级人工智能专家正在研究能够完成更复杂任务的系统:阅读文本进而回答问题。


Maluuba 的联合创始人 Kaheer Suleman 说到,「我们正在尝试开发一种文献机器:它能阅读、理解文本,然后学习如何交流,无论是笔录还是口述。」微软在今年年初时收购了这家创业公司。


机器阅读系统也能帮助医生、律师和其他专家更快地完成文档阅读这样的苦差事,从而让专家们有更多的时间治疗病人或构想合法抗辩。


Maluuba 团队是微软几个解决机器阅读难题的团队之一。其他两个团队,一个在华盛顿雷德蒙,一个在北京的研究院。这两个团队在斯坦福大学的 SQuAD 数据集上正在展开竞争,使用 Wikipedia 上的信息测试人工智能系统回答问题的能力。


在 SQuAD 数据集上的排名


SQuAD 数据集是机器阅读这一新兴领域的核心基准,许多顶尖的学术或产业团队都在使用它测试自己的系统。它类似于 ImageNet 竞赛,激励着计算机视觉的发展。此外,微软研究员和其他来自学界、产业界的团队也在使用另一个数据集 MS MARCO 进行激烈竞争,MS MARCO 数据集使用来自 Bing 搜索词条的真实、匿名数据来测试系统回答问题的能力。


团队成员说这是一个有附加值的挑战,因为它是基于人类的真实问题。在这种数据上测试能保证建立的系统最终对客户有用。


微软 Bing 部门合作伙伴组的一位项目经理 Rangan Majumder 说:「我们不只要奖励一堆算法解决理论问题,我们也要使用它们解决真实问题,在真实数据上进行测试。」他与雷德蒙机器阅读研究团队有密切的合作,并领导开发了 MS MARCO 数据集。


前排左二的韦福如、前排中间周明、以及微软亚洲研究院自然语言计算研究团队的成员


认知 VS 感知

总体而言,人工智能专家认为机器阅读要比图像识别这样的人工智能任务更困难,因为中间有太多模糊不清的地方。


微软亚洲研究院副院长周明博士表示,图像识别这样的技能是感知型任务:基于系统之前见过的图像,使用机器学习算法进行识别。目前,周明博士带领着微软亚洲研究院的自然语言研究组。


机器阅读是更复杂的认知型任务:它需要系统有大局观,查看它所读取文字的语境,甚至需要加入自身已有的关于这个主题的背景知识。


周说:「一些词可能有不同的含义,而相同的事情可能用不同的方式提及。」


另一个复杂性在于:给出的回答可能不包含问题中的词汇,甚至可能一个都没有。


例如,让我们假设有人问,「John Smith 的国籍是?」答案可能是,「John Smith 生于美国」,或者「他有美国护照」。在任何情况下,系统需要寻找、使用关联国籍的信息,但可能不会明确的说国籍这个词。


微软深度学习技术中心的高剑锋表示:「它需要生成一个答案,而且该答案与已有的都不同。」


Maluuba 的联合创始人 Suleman 提到,这正是人们如何测试其他人学习内容的方式。问问题,从小就开始问,并贯穿一生。


他们团队如何进一步推进机器阅读任务?这是一句深入的描述,「他们正在研发一种能够阅读文章并构思问题的系统,而不只是回答。该研究受启发于 20 世纪 80 年代的一个研究,研究表明在答题测试中,学生被要求写下关于一个主题的问题时会做的更好。」


Suleman 说:「有趣的是,生成问题时(而非回答)你真的需要更深入地理解文本。」


从左开始,依次是 Muluuba 联合创始人 Kaheer Suleman 和 Sam Pasupalak


搜索引擎的终结


机器阅读如此诱人是因为它对许多人都有很大帮助。


例如,高效的机器阅读系统能够推进搜索引擎的工作。相比于敲打词条,然后获得一堆链接,先进的机器阅读系统能像一个知识渊博的人回答问题一样给出解答。


高说,「它以自然的方式传递信息。」


大部分搜索引擎只能做基础的词条搜索,而且不是人们期待的那种要复制所有的信息。


机器阅读系统也能帮助医生、律师以及其他专家更快地阅读专业的医学或判例文档,从而让他们有更多的时间对病人进行治疗或构思合法抗辩。


它也能帮助人们更快地发现隐藏在汽车使用说明书或税务条例中的信息,节约时间。


高说:「世界中有大量信息,尤其是互联网中;为了让信息产生价值,需要将其转化为知识,而机器阅读技术可以在信息与知识之间搭建一个桥梁。」


数十年的研究以及最新进展


微软机器阅读工作的根基可以追溯到大约 20 年之前研究者在自然语言处理领域所做的早期工作。那时,微软的自然语言处理方面的首席研究员 Bill Dolan 开玩笑说,系统的工作只是偶尔很完美。


尽管如此,这一基础性工作正在被整合进算法之中,雷德蒙团队正是借助这一算法取得了当前机器阅读的绝大多数进展;该算法还是 Dolan 及其团队在自然语言处理方面取得的其他突破性成果的基础。


正如过去几年出现的人工智能进展,机器阅读也从更好的深度学习算法、大幅提升的云计算能力和海量数据中大受脾益。


研究者说这些能力,连同深度学习方法在图像和语音识别领域的进步,已经使他们自信地感觉到机器阅读的重大突破尽在眼前。这正是许多人依然惊奇的事情。


微软亚洲研究院自然语言计算研究组主管研究员韦福如说:「这对于从事自然语言处理甚至是人工智能的研究者来说是一个长期的梦想。」


尽管如此,研究者警惕说,为了创造出可以同时在语言及其细微差别方面真正理解人类诉求的系统,仍然有大量工作要做。


通常来讲,人工智能系统仍然只擅长处理特殊任务,它们也许能够找到问题的正确答案,精确识别出狗的品种或者人类的情绪状态,甚至理解会话中的词语;但是,研究者指出,这并不意味着它们能够以人类一出生就具有的方式理解信息,注意到所有的细微差别和语境。


韦福如指出,即使机器阅读团队的系统可以在 SQuAD 数据集中和人表现的一样好,但并不意味着机器可以像人一样真正阅读和理解,这是未来必须要面临的一个挑战。


周说:「这只是通向自然语言理解巨大挑战的一小步。」


你也许还想看:




感谢你关注“微软研究院AI头条”,我们期待你的留言和投稿,共建交流平台。来稿请寄:msraai@microsoft.com。微软小冰进驻微软研究院微信啦!快去主页和她聊聊天吧。

登录查看更多
0

相关内容

包括微软、CMU、Stanford在内的顶级人工智能专家和学者们正在研究更复杂的任务:让机器像人类一样阅读文本,进而根据对该文本的理解来回答问题。这种阅读理解就像是让计算机来做我们高考英语的阅读理解题。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【Manning新书】现代Java实战,592页pdf
专知会员服务
99+阅读 · 2020年5月22日
微软机器阅读理解在一场多轮对话挑战中媲美人类
微软丹棱街5号
19+阅读 · 2019年5月14日
AI会话能力超越人类!CoQA挑战赛微软创新纪录
Arxiv
8+阅读 · 2019年3月21日
Arxiv
3+阅读 · 2018年12月18日
Knowledge Based Machine Reading Comprehension
Arxiv
4+阅读 · 2018年9月12日
CoQA: A Conversational Question Answering Challenge
Arxiv
7+阅读 · 2018年8月21日
Arxiv
8+阅读 · 2018年1月19日
VIP会员
相关VIP内容
【Manning新书】现代Java实战,592页pdf
专知会员服务
99+阅读 · 2020年5月22日
相关论文
Arxiv
8+阅读 · 2019年3月21日
Arxiv
3+阅读 · 2018年12月18日
Knowledge Based Machine Reading Comprehension
Arxiv
4+阅读 · 2018年9月12日
CoQA: A Conversational Question Answering Challenge
Arxiv
7+阅读 · 2018年8月21日
Arxiv
8+阅读 · 2018年1月19日
Top
微信扫码咨询专知VIP会员