【论文笔记】面向智能体（Agent）发起的社交电子商务推荐的知识感知图卷积网络- 专知

【论文笔记】面向智能体（Agent）发起的社交电子商务推荐的知识感知图卷积网络

【导读】近年来，智能体发起（agent-initiated）的社交电子商务模式取得了惊人的成功，鼓励用户成为销售智能体并通过他们的社会关系来推销物品。这种社交电子商务中的复杂交互可以表述为异构信息网络（HIN），其中三种类型的节点（用户，销售智能体和项目）之间存在多种关系。学习高质量的节点嵌入是关键。在本文中我们提出了关系感知的协同注意GCN模型-RecoGCN，有效的聚合异构信息网络（HIN）中的异构特征。它弥补了当前GCN在使用关系感知聚合器建模异构关系的限制，并且利用语义感知元路径（meta-paths）去为每一个节点绘制出简单并且相关的感受野，并且使用一个协同注意力机制，去为不同的元路径动态的分配注意力权重。在真实数据集上的大量实验表明，RecoGCN能够学习HIN中有意义的节点嵌入，并且在推荐任务中始终优于基线方法。

https://www.zhuanzhi.ai/vip/4e1f4ba54086e64b3cb8e47b0c7f9ca3

动机

在智能体发起（agent-initiated）的社交电子商务中，各种节点（即用户，销售智能体和项目）之间存在复杂的异构关系，而当前的这些GCN模型在各种类型的边上应用完全相同的聚合函数，在描述异构关系上下存在局限；并且随着图的堆叠，邻居的数量会指数级增长，会带来昂贵的计算开销，并且当层数较深时，GCN的性能迅速退化。为例解决GCN在智能体发起（agent-initiated）社交电子商务中的局限性，我们设计了一个新颖的关系感知协同注意图卷积网络(RecoGCN)进行基于异构信息网络(HIN)的推荐的表示。

贡献

我们在智能体发起（agent-initiated）的社交电子商务平台（贝店）上对用户行为进行了深入的分析。研究表明，社交电子商务和传统电子商务场景之间存在明显的行为差异。
我们对具有HIN框架的智能体发起的社交电子商务中的推荐问题进行了形式化描述，并提出了一种关系感知协同注意的GCN模型——RecoGCN，该模型能够显式地对这种新型场景中异构关系的不同语义进行建模。
我们设计了一个由元路径定义的感受野采样器。它从多跳邻域中提取出简洁且语义相关的感受野。并且，我们设计了一个协同注意力机制去动态融合从不同元路径中学习的节点嵌入。它对每个购买决策背后的主要动机进行推理，并更准确地对交互反馈进行建模。
我们进行了广泛的实验来证明我们提出的模型的有效性，同时提供了对HIN中学习到的表示的质量的一些分析。

方法

RecoGCN模型由三个关键部分组成，首先在HIN中划分出简洁和语义感知的感受野，随后提出了一种新型的关系感知聚合器，该聚合器能够识别HIN上的异构关系，最后，在每次购买中的交互使用协同注意力来进一步增强节点嵌入。

问题定义

异构信息网络(HIN)

一个HIN被定义为一个有向图G=（V，ε），该图具有节点类型映射函数φ（v）以及一个关系映射函数ψ(e)

φ（v）：V→T

ψ(e)：E→R

社交电子商务网络可以被考虑为传统HIN的一种。特别的，我们定义了四种类型的节点，分别对应于销售智能体、用户、通过链接共享的商品和移动APP中的商品，以及6个类型的边，表示它们之间的各种类型的关系。注意，通过链接共享的商品和移动APP中的商品指的是相同的实体，但是用户与它们的交互具有不同的含义（受销售智能体的影响与不受销售智能体的影响）。因此，为了清楚起见，我们将它们分为两种虚拟类型的节点。

社交电子商务网络

社交电子商务网络G_{SE}是传统HIN的一种，包含以下四种类型的节点：

销售经理｛v_s丨φ（v_s）=t_S｝
用户｛v_u丨φ（v_u）=t_U｝
通过链接分享的商品｛v_i丨φ（v_i）=t_I｝
APP中的商品｛v_a丨φ（v_a）=t_A}

不同类型节点间的关系如下：

1）在v_s与v_u之间的关系表示：

r_su：v_s推荐给v_u
r_us:v_u被v_s推荐

2 ) v_u与v_i之间的关系表示：

r_ui：v_u通过推荐购买v_i
r_iu:v_i通过推荐被v_u购买

3 ) v_u与v_a之间的关系表示：

r_ua：v_u未通过推荐购买v_a
r_au:v_a未通过推荐被v_u购买

给定一个社交电子商务网络G_{SE}，该网络具有用户的购买数据集D=｛<v_u，v_s,v_i>｝，对于每个用户与销售智能体对，目标是通过学习有效的节点嵌入来完成推荐任务。

元路径定义的感受野采样器

为了解决GCN在感受野（邻域）上面的局限，我们利用语义感知元路径的能力，在HIN上设计了一种新颖的感受野采样器，来获得目标节点的邻域，一个元路径具有一个感受野。

元路径

元路径ρ与HIN中的路径一致，其形式为：

元路径定义的感受野

给定一个社交电子商务网络

G_{SE}=(V,E)

对于一个节点v与长为l的元路径ρ，一个由元路径定义的感受野表示为:

F^ρ_v=(f^ρ_v(0），f^ρ_v（1），...,f^ρ_v（l））

F^ρ_v表示可以经由元路径ρ进入节点v或从节点v经过的节点的集合，f^ρ_v（k）表示在ρ上经由k个跳跃到达的节点集。

在上图中，对节点U_1采样了两个基于元路径U −S −U −A与U − A −U − I的感受野，标记为黄色区域与蓝色区域。可以观察到与传统的3跳感受野中的15个节点相比基于元路径的感受野节点数量减少到了5。

通过将元路径定义的感受野采样器集成到模型中，给定一个目标节点w与一个元路径ρ，首先迭代的采样感受野:

F^ρ_v=(f^ρ_v(0),f^ρ_v（1），...,f^ρ_v（l））

然后，以逐跳的方式采用有相应的关系感知聚集器将特征从元路径的末端聚集回目标节点w。

关系感知聚合器

现有的大多数GCN模型由于其基本的空间不变性假设，不能有效地对HIN中的异构关系进行建模。当将信息从物品聚集到用户以及从用户聚集到销售智能体时，空间不变聚合器将应用相同的函数，无视它们完全不同的含义。因此，我们提出关系感知聚合器，使得RecoGCN按关系而不是按层共享聚合器，弥补了当前GCN在建模异构关系方面的局限性。

r-邻域

r-邻域允许在搜索节点的局部邻域时考虑关系类型。给定一个社交电子商务网络G_{SE}=(V,E),对于节点v，它的r-邻域 N_r（v）被定义为连接到v的具有边的类型r的节点的集合：

我们提出的关系感知聚合器是按关系共享聚合器而不是按层共享。为每种类型的关系学习特定的聚合器函数，以显式地建模语义，如下图所示。

输入为目标节点v当前的嵌入h_v以及在v的r-邻域中的节点嵌入h_w:

关系感知聚合器采用注意机制将来自其邻域的信息聚集到节点v作为上下文嵌入h_c：

1）首先将目标节点及其邻居的嵌入分别转换为具有单独的可训练权重W^r_q和W^r_k的查询向量和键向量。

2）计算注意力系数α_{vw}，为查询向量和键向量的内积的Softmax归一化值：

3）将h_v与h_c的串联向量送入全连接层，并使用relu函数激活输出以生成更新的节点嵌入h'_v:

整体算法描述如下:

共同注意机制

在社交电子商务中，用户在做出购买决策时往往受到不同动机的驱动（用户可以基于她的偏好或基于朋友的推荐来购买衣服）。为了考虑购买决策中的不同动机，需要一种融合机制来动态集成来自不同元路径的嵌入。最直接的解决方案是在嵌入上采用平均池化操作：

其中：

M_{φ（v）}表示为节点v的类型设计的元路径
y_v是节点v的嵌入的融合

然而，平均操作不能针对每个用户或项目进行个性化。此外，每次购买的主要动机往往不同，因此我们的目标是设计一种能够适应每个购买事件的动态融合机制。

对于给定用户，购买或不购买的主要动机受购买事件中与其他元素的相互作用的影响。因此，我们提出了一种三向共同注意力机制，通过关注其他元素来学习购买事件中每个元素的嵌入融合函数。上图为协同注意机制的体系结构。、

我们首先将用户、销售智能体和商品的嵌入转换为各自的查询向量q_⋆：

其中：

W^⋆_q,β_⋆,ρ表示可训练权重矩阵和系数
f(.)表示一个ReLU 非线性激活函数

商品的混合嵌入~y_{v_i}被计算为从不同元路径定义的感受野导出的嵌入上的注意系数加权和。

训练

我们首先计算预测的购买可能性，如下所示：

W_b是全连接权重矩阵，将用户和销售智能体嵌入的串联向量投影到商品嵌入空间。

预测购买的可能性被计算为投影的用户-智能体对嵌入与商品嵌入的内积，并且通过sigmod函数被激活。

我们采用基于max-margin的排名损失函数去训练RecoGCN中的参数：

其中：

∆表示预定义 margin的超参数

实验

数据集

为了评估RecoGCN模型将传统电子商务中的用户交互转换为社交电子商务时的推荐的能力，我们使用了从贝店收集到的所有的交互作为传统交互数据集，并在其中抽取了只包含社交电子商务场景中的交互的子集作为纯社交数据集，表示为“(-)”。

我们还为每种类型的节点选择了不同的元路径，如表3所示：

Baselines

我们比较了两类基线：基于矩阵分解的方法与基于GNN的方法，以及RecoGCN的两个变体。

基于矩阵分解的方法：

BMF
DNN
Metapath MF

基于GCN的方法：

PinSage
GAT
HAN
DiffNet

REGCN:只将基于关系的GCN聚合器用于社交电子商务网络。
REGCN_{MP}：将元路径定义的感受野采样器（节点的邻域）集成到REGCN中

实验结果

模型对比结果如表4所示，RecoGCN模型在所有的评估指标上都明显优于基线模型。这些结果表明，RecoGCN模型能够成功地聚合异构电子社交商务网络中的信息并为推荐生成高质量的节点嵌入。

为了研究哪些元路径在预测用户购买决策中起重要作用，我们对比了不同元路径之间的注意力权重，如图9所示。

可以注意到，协同路径“U-I-U-I”具有最低的权重，一个可能的解释是用户与社交电子商务中项目的互动并不完全代表他们的偏好。而 “U-S-U-I”具有高的权重，也由此表明社会同质性因素在社交电子商务中起着重要的作用。

此外，我们还对 ReGCN_{MP}学习到的节点嵌入进行了定性研究，我们使用t-SNE算法将节点嵌入投影到2-D空间，如图10所示：

我们可以观察到项目的分布与类别密切相关，属于相同类别的项目很可能相互聚集。同时，用户的嵌入也可能根据他们的地区进行聚合。不过，在销售智能体中聚合现象并不明显。

结论

在本文中，我们研究了一种新兴的场景，即社交电子商务中的推荐系统设计。我们提出了一种基于关系感知的协同注意GCN推荐模型RecoGCN，以有效地收集HIN中的异构特征来生成推荐所需的节点嵌入。RecoGCN设计了三个新颖的组件：1)显式建模异构关系语义的关系感知聚合器；2)元路径定义的感受野采样器（节点邻域的采样），它有效地划分出简明和语义相关的感受野；3)协同注意的嵌入融合机制，动态推理购买背后的复杂动机。大量的实验表明，所提出的RecoGCN能够学习社交电子商务网络中有意义的节点嵌入，并且在性能上比所有基线方法都有显著的提高。未来重要的工作将是识别RecoGCN对推荐系统中下游评分功能的影响，并探索自动搜索最佳元路径的可行性。

便捷查看，请关注专知公众号（点击上方蓝色专知关注）