赛尔推荐 | 第15期

会员服务 ·

赛尔推荐 | 第15期

2018 年 5 月 11 日 哈工大SCIR 哈工大SCIR

本栏目每周将推荐若干篇由师生精心挑选的前沿论文，分周三、周五两次推送。

本次推荐了三篇关于情感生成、情感分析、迁移学习、机器翻译双向解码的论文。

推荐组：SA

推荐人：吴洋（研究方向：情感分析）

论文题目：Emotional Chatting Machine: Emotional Conversation Generation with Internal and External Memory

作者：Hao Zhou, Minlie Huang, Tianyang Zhang, Xiaoyan Zhu, Bing Liu

出处：AAAI 2018

论文主要相关：情感生成

简评：

这篇论文探索了“如何控制生成文本中的情感”这一问题，是中文情感生成领域的前沿工作。

论文模型中encoder部分采用传统的encoder，decoder部分进行了多处具有创新的改动。一是加入了Internal Memory部分，该部分是受到心理学理论的启发而设计的，即人的情感强度随着表达不断衰减。二是加入了External Momory部分，该部分将情感词与情感词分开进行softmax计算概率，并用系数来调整当前对两类词的输出偏好。三是加入Emotion Category Embedding部分旨在让解码器每一步都能得到要生成情感的指示信息。

Decoder部分的大体流程是一开始通过指定的情感得到对应的Emotion Category Embedding，与此同时在Internal Memory部分计算读出门和写入门的值，读出门的值点乘情感单元的值得到要输出到解码单元中的向量，写入门的值点乘情感单元的值即是下一个时间步情感单元的值。当前时间步的解码单元得到情感单元输出值和Emotion Category Embedding之后，将其与context向量拼接，计算出当前解码单元的输出，利用输出向量通过External Momory来计算输出词的概率分布。　　

评价方式采取了两种方式，第一种使用生成的文本与规定的情感极性是否一致，即计算accuracy。第二种，使用人工的方式，对文本的内容和情感打分，在这个过程中，采取一些统计学方法说明人工打分没有偏见。最终结果表明，三处的改动均起到提升的作用。

论文链接：

https://arxiv.org/pdf/1704.01074.pdf

推荐组：SP

推荐人：石乾坤（研究方向：股市预测）

论文题目：End-to-End Adversarial Memory Network for Cross-domain Sentiment Classification

作者：Zheng Li, Yu Zhang, Ying Wei, Yuxiang Wu, Qiang Yang

出处：IJCAI 2017

论文主要相关：情感分析，迁移学习

简评：情感分析指的是对一句话的情感倾向（表扬/批评）进行分析，自然语言处理领域中，学者们经常使用亚马逊商品评论作为该领域的标准数据集，这些评论包括电子用品评论、书籍评论、DVD评论等。

情感分析任务中，一个针对A领域（如针对电子用品的评论）训练出的模型，如果用来判别其他领域（如针对书籍的评论）的情感倾向，模型的表现往往较差，这种特点被称为领域独立。该特点使得训练一个针对各领域通用的模型较为困难，而针对每种评论都训练出一个模型又需要大量标注数据，耗时耗力。为解决这个问题，学者们提出了迁移学习模型。

本文提出了Adversarial Memory Network（AMN）模型以进行领域迁移，该模型中的Attention机制可以自动捕捉文本中的关键词，模型中的一个Memory network用于情感分析，另一个Memory network结合Gradient Reversal Layer用于领域混淆。针对上文中提到亚马逊商品评论数据集，该模型的表现显著超过了baseline模型，取得了State of the art的效果。除此之外，该模型还可以显式的给出文本中表达情感的关键词（如great, terrible等），其模型的可解释性也优于其他的深度学习模型。

论文链接：

https://www.ijcai.org/proceedings/2017/311