Personalized chatbots focus on endowing chatbots with a consistent personality to behave like real users, give more informative responses, and further act as personal assistants. Existing personalized approaches tried to incorporate several text descriptions as explicit user profiles. However, the acquisition of such explicit profiles is expensive and time-consuming, thus being impractical for large-scale real-world applications. Moreover, the restricted predefined profile neglects the language behavior of a real user and cannot be automatically updated together with the change of user interests. In this paper, we propose to learn implicit user profiles automatically from large-scale user dialogue history for building personalized chatbots. Specifically, leveraging the benefits of Transformer on language understanding, we train a personalized language model to construct a general user profile from the user's historical responses. To highlight the relevant historical responses to the input post, we further establish a key-value memory network of historical post-response pairs, and build a dynamic post-aware user profile. The dynamic profile mainly describes what and how the user has responded to similar posts in history. To explicitly utilize users' frequently used words, we design a personalized decoder to fuse two decoding strategies, including generating a word from the generic vocabulary and copying one word from the user's personalized vocabulary. Experiments on two real-world datasets show the significant improvement of our model compared with existing methods.


翻译:个人化的聊天室个人化聊天室侧重于赋予具有一贯人格的聊天室,使其表现得像真正的用户一样,提供更丰富的信息回应,并进一步充当个人助理。现有的个性化方法试图将若干文字描述作为明确的用户简介纳入其中。然而,获取这种清晰的简介既费钱又费时,因此对于大规模现实世界应用程序来说是不切实际的。此外,限制的预先界定的简介忽视了一个真正的用户的语言行为,无法随着用户兴趣的变化自动更新。在本文中,我们提议从大型用户对话史中自动学习隐含的用户简介,以便建立个性化聊天室。具体地说,利用变异器对语言理解的好处,我们培训一个个性化的语言模型,以便从用户的历史反应中构建一个通用的用户概况。为了突出对投入站的相关历史反应,我们进一步建立了一个关键价值的记忆网,以历史后回应对用户的组合,并且不能与用户兴趣变化一起自动更新。动态简介主要描述了用户对历史类似文章的反应和反应方式。我们从经常使用的语言词汇中,我们设计了一个个化的化的用户化版本,用来比重塑化的旧的版本,将个人化的版本与个人化的旧的版本比重的旧的旧的旧的版本。

0
下载
关闭预览

相关内容

Chatbot,聊天机器人。 chatbot是场交互革命,也是一个多技术融合的平台。上图给出了构建一个chatbot需要具备的组件,简单地说chatbot = NLU(Natural Language Understanding) + NLG(Natural Language Generation)。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
64+阅读 · 2021年5月29日
【USTC】对话推荐系统的进展和挑战:综述论文,30页pdf
专知会员服务
21+阅读 · 2021年1月27日
强化学习最新教程,17页pdf
专知会员服务
174+阅读 · 2019年10月11日
LibRec 精选:AutoML for Contextual Bandits
LibRec智能推荐
7+阅读 · 2019年9月19日
【TED】生命中的每一年的智慧
英语演讲视频每日一推
9+阅读 · 2019年1月29日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
推荐|深度强化学习聊天机器人(附论文)!
全球人工智能
4+阅读 · 2018年1月30日
推荐|Andrew Ng计算机视觉教程总结
全球人工智能
3+阅读 · 2017年11月23日
Arxiv
0+阅读 · 2021年5月30日
Arxiv
4+阅读 · 2018年5月10日
VIP会员
相关VIP内容
Top
微信扫码咨询专知VIP会员