|性能超越最新序列推荐模型，华为诺亚方舟提出记忆增强的图神经网络( 二 )

总体而言，本文的主要共现为：

为了对用户短期和长期兴趣建模，提出一个记忆增强的图神经网络，以捕捉短期情境信息和长期依赖；
为了高校融合短期和长期兴趣信息，提出了GNN框架中的门机制；
为对商品共现模式进行建模，使用双线性函数来捕捉商品之间的特征关联；
在五个真实世界数据集上进行评估试验，结果显示MA-GNN的效果显著由于已有的序列推荐模型。

相关工作
整体推荐
早期的推荐模型主要研究显性反馈，近期研究则逐渐转向隐性数据。使用隐性反馈的协同过滤（collaborative filtering, CF）往往被认为是一个Top-K推荐认为，该任务的目标即为用户推荐一个可能感兴趣的商品列表。这一任务更具有实际性和挑战性，且更适合真实世界的推荐场景。早期的相关工作主要使用矩阵分解技术学习用户和商品的隐性特征，基于神经网络的方法也经常被采用。
序列推荐
序列推荐模型将商品序列作为输入信息。一个经典方法是使用马尔可夫链对数据建模。 FPMC, TransREC都属于此类方法。近期，受自然语言处理中序列学习的启发，学者们提出了基于（深度）神经网络的方法，包括基于卷积神经网络（CNN）、基于循环神经网络（RNN）等。注意力机制、记忆网络也在序列推荐模型中得到应用。
本文和已有模型的不同之处在于，模型使用记忆增强的图神经网络以捕捉长期和短期兴趣。另外，本文加入了一个商品共现模块，以对高度相关的商品建模。
问题定义
本文考量的推荐任务将序列的隐性反馈作为训练数据。用户兴趣通过一个用户-商品的线性序列进行表征，公式如下：

本文插图

M个用户的用户偏好即：

本文插图

对于M个用户，问题即可定义为从N个商品中为每个用户推荐一个长度为K的商品列表，并评估下述偏好中的商品是否出现在推荐列表中：

本文插图

方法
本部分对MA-GNN模型进行了介绍，该部分介绍了四个对用户偏好和意图进行学习有所影响对因素，以及该模型了预测和训练步骤。

本文插图

图1：MA-GNN模型结构
整体兴趣建模
模型假定用户的整体兴趣相对于时间保持稳定。模型使用矩阵分解以捕捉整体兴趣，且不考虑商品的序列动态变化。使用Pu代表用户u的嵌入表示， Qj表示商品j的输出嵌入， d表示隐空间的维度，矩阵分解公式如下：

本文插图

短时兴趣建模
用户短期兴趣基于用户近期浏览的多个商品。我们使用滑动窗口策略，将商品序列分割为细粒度子序列。之后，我们使用近期子序列预测下一个浏览的商品，并忽略影响较小的无关商品。对于每一个用户u ，抽取每 |L| 个连续商品作为输入，之后的 |T| 个商品为预测目标，则用户u的长度为l的子序列即：