【AAAI2020论文-清华大学】基于人物稀疏数据的预训练个性化对话生成模型（A Pre-training Based Personalized Dialogue Generation Model with Persona-sparse Data）

论文题目： A Pre-training Based Personalized Dialogue Generation Model with Persona-sparse Data

论文摘要： 赋予对话系统以人物角色是实现更人性化对话的关键。然而，由于在自然语言中很难体现个性，以及在大多数对话语料库中观察到的人物稀疏性问题，这一问题还远未得到很好的探讨。本论文提出了一种基于预训练的个性化对话模型，该模型可以利用人物角色稀疏对话数据生成一致响应。该方法利用预先训练好的语言模型来初始化编解码器，并通过将说话人的角色和对话历史一起编码，设计了个人属性嵌入来建模更丰富的对话上下文。此外，为了在解码过程中合并目标人物角色并平衡其贡献，在解码器中设计了注意路由结构，以使用动态预测权重合并从目标人物角色提取的特征和对话上下文。我们的模型可以在训练过程中统一使用人物角色稀疏对话，也可以控制推理过程中要显示的人物角色相关特征的数量。无论是自动评估还是手动评估都表明，该模型在使用人物角色稀疏数据生成更一致和人物角色一致的响应方面优于最新方法。