简介:

作为面向任务的对话系统中的关键组件,自然语言生成(NLG)模块将以语义形式表示的对话行为转换为自然语言的响应。传统的基于模板或统计模型的成功通常依赖于带有大量注释的数据,这对于新领域而言是不可行的。因此,对于NLG系统而言,在实际应用中使用有限的标记数据很好地泛化至关重要。为此,我们展示了FewShotWOZ,这是第一个NLG基准测试,用于模拟面向任务的对话系统中的少量学习设置。此外,我们开发了SC-GPT模型。它在大量带注释的NLG语料库上进行了预训练,以获取可控的生成能力,并仅用少数几个特定于域的标签进行微调以适应新的域。在FewShotWOZ和大型Multi-Domain-WOZ数据集上进行的实验表明,通过各种自动指标和人工评估,提出的SC-GPT明显优于现有方法。

成为VIP会员查看完整内容
32

相关内容

小样本学习(Few-Shot Learning,以下简称 FSL )用于解决当可用的数据量比较少时,如何提升神经网络的性能。在 FSL 中,经常用到的一类方法被称为 Meta-learning。和普通的神经网络的训练方法一样,Meta-learning 也包含训练过程和测试过程,但是它的训练过程被称作 Meta-training 和 Meta-testing。
微软机器阅读理解在一场多轮对话挑战中媲美人类
微软丹棱街5号
19+阅读 · 2019年5月14日
媲美人类对话水平!微软最新NLP模型3项评分全面超越人类水平!
机器学习算法与Python学习
8+阅读 · 2019年5月4日
自然语言处理常识推理综述论文,60页pdf
专知
71+阅读 · 2019年4月4日
39页《迁移学习自然语言生成》PPT
专知
9+阅读 · 2019年2月13日
干货篇|百度UNIT对话系统核心技术解析
InfoQ
23+阅读 · 2018年9月20日
一文读懂智能对话系统
数据派THU
16+阅读 · 2018年1月27日
Adversarial Mutual Information for Text Generation
Arxiv
13+阅读 · 2020年6月30日
Generating Rationales in Visual Question Answering
Arxiv
5+阅读 · 2020年4月4日
VIP会员
相关VIP内容
相关资讯
微软机器阅读理解在一场多轮对话挑战中媲美人类
微软丹棱街5号
19+阅读 · 2019年5月14日
媲美人类对话水平!微软最新NLP模型3项评分全面超越人类水平!
机器学习算法与Python学习
8+阅读 · 2019年5月4日
自然语言处理常识推理综述论文,60页pdf
专知
71+阅读 · 2019年4月4日
39页《迁移学习自然语言生成》PPT
专知
9+阅读 · 2019年2月13日
干货篇|百度UNIT对话系统核心技术解析
InfoQ
23+阅读 · 2018年9月20日
一文读懂智能对话系统
数据派THU
16+阅读 · 2018年1月27日
微信扫码咨询专知VIP会员