DSGAN:使用生成式对抗网络进行远距离监督关系抽取

2018 年 12 月 28 日 微信AI
DSGAN:使用生成式对抗网络进行远距离监督关系抽取



前言

关系抽取任务的是依据现有文本信息,预测两个实体间的关系。例如句子:比尔盖茨创建了微软。“比尔盖茨”和“微软”是已知实体,我们通过所提供的句子可以得到这两个实体之间含有“创始人”这一关系。

 

传统的有监督的关系抽取算法需要大量的已标注数据,这将需要耗费人力资源进行标注。为了减少人工成本,研究者们尝试使用现有的数据(如:FreebaseNYT)对于关系抽取模型进行远距离监督,该方法的基本假设是将含有实体对的句子标注成该实体对在知识图谱中对应的关系,然后使用这一标注后的数据进行关系抽取模型的训练,该方法也被称为远距离监督关系抽取算法。远距离监督关系抽取算法虽然可以减少人工标注成本,但是会引入大量的噪声,例如对于下列句子:


1)比尔盖茨创建了微软

2)微软公司的创始人是比尔盖茨

3)比尔盖茨微软退休


只有前两个句子能体现实体对“比尔盖茨”和“微软”含有“创始人”关系,而最后一个句子会给分类模型带来噪声。目前最好的降噪方法是使用含有相同实体对的句子集合来判断实体对间的关系,该类方法主要是通过降低句子集合中的噪声数据的权重来减少噪声数据的影响。但是该降噪方法无法处理句子集合中所有的句子是噪声数据的情况。

 

本次paper reading介绍ACL2018上的一篇文章——DSGAN: Generative Adversarial Training for Distant SupervisionRelation Extraction[1],该论文使用了生成式对抗网络对关系抽取任务进行降噪,通过对抗网络获取基于句子层面的生成模型,与传统的对抗网络中用于生成新数据的生成模型不同,这里的生成模型的作用是识别数据集中的噪声数据,对训练集进行降噪来提升关系抽取模型的表现效果。论文的思想可以通过图1解释。已知训练数据中含有错误的数据(红叉)、真实正确的数据(蓝圈)、假阳性数据即噪声数据(黄三角),其中真实正确的数据和假阳性数据在训练开始都被认为是“正确”数据(“positive” data),模型的假设前提是真实正确的数据在正确数据中占据的比例较大。在对抗网络训练过程中,使用判别模型来识别错误数据和“正确”数据;而生成模型将从所有数据中识别真实正确的数据并将这些数据标注为负例,并识别所有的错误数据(包括已知的错误数据和假阳性数据)并标注为正例,将这些标注好的数据加入到判别模型的训练集中用于干扰判别模型。如果生成模型能够很好地分类真实正确的数据和错误数据,那么判别模型的判别效果将会极快地下降,我们将通过判别模型效果的下降情况来确定何时停止对抗网络的训练。对抗网络训练完毕之后,论文使用其中的生成模型作为降噪工具,对现有的数据集进行降噪处理,并将处理好的数据集用于关系分类。


                                    图1


DSGAN是对抗网络在关系抽取降噪任务中的第一次实现,这一降噪模型可以作为插件直接应用于现有的各关系分类的模型中,提升关系分类的效果。



生成式对抗网络(DSGAN)


                                    图2


2为论文中对抗网络的基本框架,包括了生成模型G和判别模型D,这两个模型对应的参数分别为

 

判别网络的目的是判断输入的句子是否为“正确”的数据(包括真实正确的数据和假阳性数据),它的输入是句子的特征,输出为该句子为“正确”的数据的得分。生成网络的目的是识别真实正确的数据,它的输入是句子的特征,输出为该句子为真实正确数据的得分;对于得分大于阈值的数据,将作为错误数据(label=0)输入到判别网络中,而得分低于阈值的数据将作为“正确”的数据(label=1)输入到判别网络,通过这种方式来影响判别网络的分类效果。论文使用判别网络分类效果的下降速度来判断生成模型的质量,如果生成模型识别真实正确的数据的效果越好,那么判别网络的分类效果越差。

 

生成模型训练完成后,将用于对原始训练集进行降噪。训练集中得分低于阈值的数据将作为噪声数据剔除;而如果所有包含同一实体对的句子的模型得分都低于阈值,那么该实体对及其句子集合将作为其对应关系类别的负例。降噪后的训练集可以应用于任一已有的关系分类模型,使得该模型的表现能够进一步提升。

 

训练对抗网络前,首先要对生成模型和判别模型进行预训练,生成模型的训练数据包括了正例数据集P和负例数据集NG,判别模型的训练数据包括了正例数据集P和负例数据集ND,这里数据集NGND不重合。预训练后判别模型能够很好地区分正例和负例数据;此外,生成模型要对正例数据集P过拟合,这样可以在正式训练时尽可能地干扰判别模型。

 

正式训练时,将正例数据集P切割成若干个集合(bag),分割后,其中,依次将每个集合的数据输入到生成模型中,让生成模型对于每个输入的句子进行打分,将得分高于阈值的数据标注为负例(该数据由表示)、得分低于阈值的标注为正例(该数据由T表示),重新标注后的句子输入到判别模型中,将判别模型的判决结果作为生成模型反向求导调参的依据。这里生成模型的损失函数如公式(1)所示:

(1)


判别模型的损失函数如公式(2)所示:


(2)


这里,每输入一个集合,生成模型和判别模型都要进行参数更新,判别模型的梯度和参数更新如公式(3)和(4)所示:


(3)


(4)


生成模型的目标和单步强化学习的目标类似,因此,这里使用基于策略的梯度函数来更新生成模型的参数。与强化学习相对应的,可以表示成状态,而为该状态对应的策略,为了更好地反应生成模型的质量,奖励函数由以下两部分组成:


第一,作为对抗网络,我们希望生成模型生成的数据在判别网络中能够得到更高的分数,因此有如公式(5)所示的奖赏函数


(5)


第二,我们将通过判别模型的性能来判断生成模型当前的性能,当生成模型性能越好时它生成的数据将难以被判别模型识别为反例,则判别模型的性能会逐步下降,因此有如公式(6)所示的奖赏函数:


(6)


(7)


其中k为当前迭代次数,为判别模型在数据集ND上的平均准确率,由于ND只参与了判别模型的预训练流程,并没有用于对抗网络训练中,所以它可以用来衡量判别模型当前的性能。当奖励值计算结束之后,生成模型的梯度和参数调整入公式(8)和(9)所示:

(8)


(9)


当所有的集合都输入完毕后计为一轮的迭代,每一轮迭代后,都要计算判别模型在数据集ND上的准确率ACCD,当ACCD不再下降时则停止迭代。

 

在每一轮迭代之前,判别模型都会重新加载其预训练好的参数,这样做有以下两个原因:第一,训练对抗网络的目的是获得一个鲁棒性强的生成模型而不是获得一个鲁棒性强的判别模型,第二,生成模型的目的是识别出噪声数据而不是生成新数据。这样一来,判别模型很容易崩塌(即判别模型将会无法区别正负例)。对此文中增加了一个衡量对抗网络训练效果的策略:生成模型的鲁棒性越强,在一轮迭代过程中会让初始参数相同的判别模型的表现下降得越快。


实验结果

实验数据集为Reidel dataset。该数据集是远距离监督关系抽取任务的通用数据集。为了验证DSGAN模型的降噪效果,选取了基于CNN的关系抽取模型[2]和基于PCNN的关系抽取模型[3]作为基准模型,实验对比结果分别如图3和图4所示。


图3


图4


从图中可以看出,经过DSGAN降噪之后,基于CNN和基于PCNN的模型在关系抽取任务上的表现都有着显著的提升。

 

 

总结

DSGAN的核心思想是通过对抗网络训练的方法,获取能够识别出噪声数据的生成模型,使用该生成模型对现有的关系抽取数据进行降噪,从而提升模型在关系抽取任务上的表现。该方法只对输入的数据进行处理,因此可以很方便的接入到现有的关系抽取模型中并提升模型的效果。


 

 

参考文献

[1] DSGAN: Generative Adversarial Training for DistantSupervision Relation Extraction,

https://arxiv.org/abs/1805.09929

[2] Neural relation extraction with selective attentionover instances, 

http://www.aclweb.org/anthology/P16-1200

[3] Distant Supervision for Relation Extraction viaPiecewise Convolutional Neural Networks,

 http://www.emnlp2015.org/proceedings/EMNLP/pdf/EMNLP203.pdf

 

微信ID:WeChatAI


登录查看更多
91

相关内容

关系抽取指的是检测和识别文本中实体之间的语义关系,并将表示同一语义关系的提及(mention)链接起来的任务。关系提取任务需要在一组工件(通常来自文本或XML文档)中对语义关系提及进行检测和分类。该任务与信息抽取(IE)的任务非常相似,但是IE还需要删除重复关系(消除歧义),并且通常指的是提取许多不同的关系。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等

A Survey on GANs for Anomaly Detection

异常检测是当前研究领域面临的一个重要问题。检测和正确分类看不见的异常样本是一个具有挑战性的问题,多年来已经有很多方式在解决。

生成式对抗网络(GANs)和对抗训练过程最近已被用于面对这一任务,并产生了显著的结果。在本文中,我们调研了主要GAN-based异常检测方法,突出优点和缺点。我们的贡献是主要的实证验证GAN异常检测模型,在不同的数据集实验结果的增加和公众发布一个完整的开源工具箱使用GAN进行异常检测。

成为VIP会员查看完整内容
0
73

Distant supervision can effectively label data for relation extraction, but suffers from the noise labeling problem. Recent works mainly perform soft bag-level noise reduction strategies to find the relatively better samples in a sentence bag, which is suboptimal compared with making a hard decision of false positive samples in sentence level. In this paper, we introduce an adversarial learning framework, which we named DSGAN, to learn a sentence-level true-positive generator. Inspired by Generative Adversarial Networks, we regard the positive samples generated by the generator as the negative samples to train the discriminator. The optimal generator is obtained until the discrimination ability of the discriminator has the greatest decline. We adopt the generator to filter distant supervision training dataset and redistribute the false positive instances into the negative set, in which way to provide a cleaned dataset for relation classification. The experimental results show that the proposed strategy significantly improves the performance of distant supervision relation extraction comparing to state-of-the-art systems.

0
14
下载
预览
小贴士
相关资讯
万字综述之生成对抗网络(GAN)
PaperWeekly
29+阅读 · 2019年3月19日
CVPR 2018 论文解读 | 基于GAN和CNN的图像盲去噪
PaperWeekly
10+阅读 · 2019年1月22日
论文浅尝 | 基于深度强化学习的远程监督数据集的降噪
开放知识图谱
25+阅读 · 2019年1月17日
ACL 2018 论文解读 | 基于深度强化学习的远程监督关系抽取
黑龙江大学自然语言处理实验室
14+阅读 · 2018年12月10日
总结 | 清华大学韩旭:神经关系抽取模型
AI科技评论
7+阅读 · 2018年9月28日
【学界】融合对抗学习的因果关系抽取
GAN生成式对抗网络
13+阅读 · 2018年7月14日
论文浅尝 | 远程监督关系抽取的生成式对抗训练
开放知识图谱
17+阅读 · 2018年7月12日
论文浅尝 | Distant Supervision for Relation Extraction
开放知识图谱
4+阅读 · 2017年12月25日
GAN | GAN介绍(1)
KingsGarden
77+阅读 · 2017年3月13日
相关论文
Clustered Object Detection in Aerial Images
Fan Yang,Heng Fan,Peng Chu,Erik Blasch,Haibin Ling
4+阅读 · 2019年8月27日
Generative Adversarial Networks: A Survey and Taxonomy
Zhengwei Wang,Qi She,Tomas E. Ward
11+阅读 · 2019年6月4日
Zilong Zhong,Jonathan Li,David A. Clausi,Alexander Wong
3+阅读 · 2019年5月12日
Mode Seeking Generative Adversarial Networks for Diverse Image Synthesis
Qi Mao,Hsin-Ying Lee,Hung-Yu Tseng,Siwei Ma,Ming-Hsuan Yang
3+阅读 · 2019年3月18日
Zhiming Zhou,Jiadong Liang,Yuxuan Song,Lantao Yu,Hongwei Wang,Weinan Zhang,Yong Yu,Zhihua Zhang
8+阅读 · 2019年2月15日
Adversarial Transfer Learning
Garrett Wilson,Diane J. Cook
10+阅读 · 2018年12月6日
ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks
Xintao Wang,Ke Yu,Shixiang Wu,Jinjin Gu,Yihao Liu,Chao Dong,Chen Change Loy,Yu Qiao,Xiaoou Tang
5+阅读 · 2018年9月17日
Pengda Qin,Weiran Xu,William Yang Wang
14+阅读 · 2018年5月24日
Liwei Cai,William Yang Wang
5+阅读 · 2018年2月20日
Li Wang,Ting Liu,Bing Wang,Xulei Yang,Gang Wang
13+阅读 · 2018年1月6日
Top