基于深度学习的推荐系统

/ /

Deep Learning based Recommender System

本文的概念主要内容来自：arXiv:1707.07435v6

  • 一个电影推荐系统（基于tensorflow）示例的运行。
  • 一个文本深度学习的电影推荐系统，包含看过这个的人也看过，和你一样的人看过（猜你喜欢）。

imgimgimg

contributions of the survey

(1) We conduct a systematic review for recommendation models based on deep learning techniques and propose a classification scheme to position and organize the current work;

(2) We provide an overview and summary for the state-of-the-arts. 提供现有技术的概述和总结

(3) We discuss the challenges and open issues, and identify the new trends and future directions in this research field to share the vision and expand the horizons of deep learning based recommender system research.

Content

  • the preliminaries for recommender systems and deep neural networks
  • the advantages and disadvantages of deep neural network based recommendation models
  • presents our classification framework
  • gives detailed introduction to the state-of-the-art
  • challenges and prominent open research issues

Recommendation models

classified into three categories [1, 69]:

  • collaborative filtering,
    • 通过学习用户项目历史交互来提出建议，无论是显式（例如用户先前的评级）还是隐式反馈（例如浏览历史）
  • content based
    • 基于项目和用户之间的比较 (加上辅助信息，如文本，图像)
  • hybrid recommender system.
    • 混合

Deep Learning Techniques

we consider any neural differentiable architecture as ‘deep learning‘ as long as it optimizes a differentiable objective function using a variant of stochastic gradient descent (SGD)

Deep Learning Techniques

rchitectural paradigms

  • 多层感知器（MLP）
  • [自动编码器（AE）](file:///Users/bingcheng/Google 云端硬盘/论文/deep learning recommendation/2018 Deep Learning based Recommender System- A Survey and New Perspectives.html#bookmark64)
  • [递归神经网络（RNN）](file:///Users/bingcheng/Google 云端硬盘/论文/deep learning recommendation/2018 Deep Learning based Recommender System- A Survey and New Perspectives.html#bookmark94)
  • 受限玻尔兹曼机（RBM）
  • [神经自回归分布估计（NADE）](file:///Users/bingcheng/Google 云端硬盘/论文/deep learning recommendation/2018 Deep Learning based Recommender System- A Survey and New Perspectives.html#bookmark130)
  • [对抗网络（AN）](file:///Users/bingcheng/Google 云端硬盘/论文/deep learning recommendation/2018 Deep Learning based Recommender System- A Survey and New Perspectives.html#bookmark95)
  • 质量模型（AM）
  • [深层强化学习（DRL）](file:///Users/bingcheng/Google 云端硬盘/论文/deep learning recommendation/2018 Deep Learning based Recommender System- A Survey and New Perspectives.html#bookmark155)

Why Deep Neural Networks for Recommendation?

这里的关键优势是处理基于内容的推荐。

例如，在处理文本数据，图像数据（社交帖子，产品图像）时，CNN / RNN成为不可或缺的神经构建块。传统的替代方案（设计模态特定的特征等）要处理评论，必须执行昂贵的预处理（例如，关键短语提取，主题建模等），而较新的基于深度学习的方法能够端到端地摄取所有文本信息[202]。

总而言之，深度学习的在这方面的能力卓越，不用预处理，计算量小（提前需要进行训练的量大），可以瞬时推荐，但是这里没有说准确度等我们关系的问题，后面应该会讲到。

Summarize the strengths of deep learning based recommendation models

  • 非线性变换

    该属性使得处理复杂的交互能够成为可能并精确地反映用户的偏好。

  • 表征学习

    1. 它减少了手工调参。调参是一项劳动密集型工作，深度神经网络能够在无人监督或监督的方法中自动从原始数据中学习特征；
    2. 它使推荐模型能够包括异构内容信息，如文本，图像，音频甚至视频。

  • 序列建模

    挖掘用户行为和时间演变之间的关系：用于机器翻译，自然语言理解，语音识别，聊天机器人等等

  • 灵活性

    框架多：Tensorflow , Keras, Caffe, MXnet, DeepLearning4j , PyTorch, Theano…

局限性

  • 隐藏的权重和激活通常是不可解释的，限制了可解释性。

  • 需要进行广泛的超参数调整

    最近的一项工作[145]，只引入了一个超参数。

基于深度学习的推荐模型

  1. 类别
  2. 最先进的技术

基于深度学习的推荐模型的类别

img

任务分类

img

模型分类

img

接下来论文花了十多页将各个模型分别介绍。

略过难以借鉴的。

MLP：Multilayer Perceptron based Recommendation，多层感知器

可用于向现有RS方法添加非线性变换，并将其解释为神经扩展。

  1. NCF Neural Collaborative Filtering 神经协同过滤
  2. Deep Factorization Machine. DeepFM.深度分解机
  3. …

过于繁杂难以理解

未来的深度推荐发展方向

  • 提高可解释性

  • 更深入

  • 跨域推荐

  • 多任务学习

  • 可扩展性

    (无需掌握，略过)

[fit]深度学习实践

一个电影推荐系统（基于tensorflow）示例的运行。 一个文本深度学习的电影推荐系统，包含看过这个的人也看过，和你一样的人看过（猜你喜欢）。

手写数字识别的神经网络

书籍：Make Your Own Neural Network - 2016

主要是学习神经网络相关知识，运行了示例程序。

img

[fit]神经网络基础概念

主要来自：Make Your Own Neural Network

不清楚的搜了百度的解释。

1. 神经元

正如神经元是大脑的基本单位一样，在神经网络结构中，神经元也是一个小单位。大家不妨想象一下当我们接触到新的信息时，大脑是如何运作的。

首先，我们会在脑中处理这个信息，然后产生输出信息。在神经网络中也是如此，神经元接收到一个输入信息，然后对它进行加工处理，然后产生输出信息，传输到其他神经元中进行进一步信息处理。

img

2. 权重

当输入信息到达神经元时，它就会乘上一个权重。举例来说，如果一个神经元包含两个输入信息，那么每个输入信息都被赋予它的关联权重。我们随机初始化权重，并在模型训练过程中更新这些权重。

接受训练后的神经网络会赋予它认为重要的输入信息更高的权重值，而那些不重要的输入信息权重值则会相对较小。权重值为零就意味着这个特征是无关紧要的。

我们不妨假设输入信息为 a，其关联权重为 W1, 通过节点后，输入信息变为 a*W1：

img

3. 偏置

除了权重之外，输入还有另一个线性分量，被称为偏置。输入信息乘上权重后再加上偏置，用来改变权重乘输入的范围。加上偏置之后，结果就变为 a*W1+bias，这就是输入信息变换的最终线性分量。

4. 激活函数

**线性分量应用可以到输入信息，非线性函数也可以应用到输入信息。这种输入信息过程是通过激活函数来实现的。

img

最常用的激活函数有 Sigmoid、ReLU 和 softmax。

  • Sigmoid——Sigmoid 是最常用的激活函数之一。它的定义为：

sigmoid(x) = 1/(1+e-x)

img

Sigmoid 函数会生成 0 到 1 之间的更平滑的取值范围。我们可能需要观察输出值的变化，同时输入值也会略有变化。而平滑的曲线更方便我们观察，因此它优于阶梯函数（step functions）。

  • ReLU（线性修正单位）——不同于 Sigmoid 函数，现在的网络更倾向于使用隐层 ReLu 激活函数。该函数的定义是：

f(x) = max(x,0)

当 X>0 时，函数的输出为 X，当 X<=0 时为 0。该函数如下所示：

img

使用 ReLu 的好处主要是它对于大于 0 的所有输入值都有对应的不变导数值。而常数导数值可以加快对网络的训练。

  • Softmax——Softmax 激活函数常用于输出层的分类问题。它与 Sigmoid 函数类似，唯一的区别是在 Softmax 激活函数中，输出被归一化，总和变为 1。

如果我们遇到的是二进制输出问题，就可以使用 Sigmoid 函数，而如果我们遇到的是多类型分类问题，使用 Softmax 函数可以轻松地为每个类型分配值，并且可以很容易地将这个值转化为概率。

这样看可能更容易理解一些——假设你正在尝试识别一个看起来像 8 实际为 6 的数。该函数将为每个数字赋值，如下所示。我们可以很容易地看出，最高概率被分配给了 6，下一个最高概率则分配给 8，依此类推……

img

5. 神经网络

神经网络是深度学习的主干之一。神经网络的目标是找到未知函数的一个近似值。它由相互联系的神经元组成。

这些神经元具有权重，并且会根据出错情况，在网络训练期间更新偏置值。激活函数将非线性变换置于线性组合，之后生成输出。被激活的神经元组合再产生输出。

对神经网络的定义中，以 Liping Yang 的最为贴切：

神经网络由许多相互关联的概念化的人造神经元组成，这些人造神经元之间可以互相传递数据，并且具有根据网络「经验」调整的相关权重。

神经元具有激活阈值，如果结合相关权重组合并激活传递给他们的数据，神经元的激活阈值就会被解除，激活的神经元的组合就会开始「学习」。

6. 输入层 / 输出层 / 隐藏层

顾名思义，输入层是接收输入信号的一层，也是该网络的第一层；输出层则是传递输出信号的一层，也是该网络的最后一层。

处理层则是该网络中的「隐含层」。这些「隐含层」将对输入信号进行特殊处理，并将生成的输出信号传递到下一层。输入层和输出层均是可见的，而其中间层则是隐藏起来的。

img

7. MLP（多层神经网络）

单一神经元无法执行高度复杂的任务。因此，需要大量神经元聚集在一起才能生成我们所需要的输出信号。

最简单的网络由一个输入层、一个输出层、一个隐含层组成，每一层上都有多个神经元，并且每一层上的神经元都和下一层上的神经元连接在了一起，这样的网络也被称为全互连网络（Fully Connected Networks）。

img

8. 正向传播（Forward Propagation）

正向传播指的是输入信号通过隐藏层传递到输出层的传递过程。

在正向传播中，信号仅沿单一方向向前正向传播，输入层将输入信号提供给隐藏层，隐藏层生成输出信号，这一过程中没有任何反向移动。

9. 成本函数（Cost Function）

当我们建立一个网络后，网络将尽可能地使输出值无限接近于实际值。我们用成本函数（或损失函数）来衡量该网络完成这一过程的准确性。成本函数（或损失函数）将在该网络出错时，予以警告。

运行网络时，我们的目标是：尽可能地提高我们的预测精度、减少误差，由此最小化成本函数。最优化的输出即当成本函数（或损失函数）为最小值时的输出。

若将成本函数定义为均方误差，则可写成：

C= 1/m ∑(y – a)2

m 在这里是训练输入值（Training Inputs），a 是预计值，y 是特定事例中的实际值。

学习过程围绕着如何最小化成本。

10. 梯度下降（Gradient Descent）

梯度下降是一种成本最小化的优化算法。想象一下，当你下山时，你必须一小步一小步往下走，而不是纵身一跃跳到山脚。

因此，我们要做的是：比如，我们从 X 点开始下降，我们下降一点点，下降 ΔH，到现在的位置，也就是 X-ΔH，重复这一过程，直到我们到达「山脚」。「山脚」就是最低成本点。

img

从数学的角度来说，要找到函数的局部极小值，须采取与函数梯度负相关的「步子」，即：梯度下降法是用负梯度方向为搜索方向的，梯度下降法越接近目标值，步长越小，前进越慢。

11. 学习速率（Learning Rate）

学习速率指每次迭代中对成本函数的最小化次数。简单来说，我们把下降到成本函数最小值的速率称为学习率。选择学习率时，我们必须非常小心，学习速率既不应过大——会错过最优解，也不应过小——使网络收敛将需要很多很多步、甚至永不可能。

img

12. 反向传播（Back Propagation）

在定义一个神经网络的过程中，每个节点会被随机地分配权重和偏置。

一次迭代后，我们可以根据产生的结果计算出整个网络的偏差，然后用偏差结合成本函数的梯度，对权重因子进行相应的调整，使得下次迭代的过程中偏差变小。

这样一个结合成本函数的梯度来调整权重因子的过程就叫做反向传播。在反向传播中，信号的传递方向是朝后的，误差连同成本函数的梯度从输出层沿着隐藏层传播，同时伴随着对权重因子的调整。

13. 分批（Batches）

当我们训练一个神经网路时，我们不应一次性发送全部输入信号，而应把输入信号随机分成几个大小相同的数据块发送。

与将全部数据一次性送入网络相比，在训练时将数据分批发送，建立的模型会更具有一般性。

14. 周期（Epochs）

一个周期表示对所有的数据批次都进行了一次迭代，包括一次正向传播和一次反向传播，所以一个周期就意味着对所有的输入数据分别进行一次正向传播和反向传播。

训练网络周期的次数是可以选择的，往往周期数越高，模型的准确性就越高，但是，耗时往往就越长。同样你还需要考虑如果周期 / 纪元的次数过高，那么可能会出现过拟合的情况。

15. Dropout 方法

Dropout 是一个可以阻止网络过拟合的规则化方法。就像它的名字那样，在训练过程中隐藏的某些特定神经元会被忽略掉（drop）。

这意味着网络的训练是在几个不同的结构上完成的。这种 Dropout 的方式就像是一场合奏，多个不同结构网络的输出组合产生最终的输出结果。

img

16. 分批标准化（Batch Normalization）

分批标准化就像是人们在河流中用以监测水位的监察站一样。

这是为了保证下一层网络得到的数据拥有合适的分布。在训练神经网络的过程中，每一次梯度下降后权重因子都会得到改变，从而会改变相应的数据结构。

img

但是下一层网络希望能够得到与之前分布相似的数据，因此在每一次数据传递前都需要对数据进行一次正则化处理。

img

[fit]卷积神经网络相关知识

17. 过滤器 / 滤波器（Filters）

CNN 中的滤波器，具体是指将一个权重矩阵乘以输入图像的一个部分，产生相应的卷积输出。

比方说，对于一个 28×28 的图片而言，将一个 3×3 的滤波器与图片中 3×3 的矩阵依次相乘，从而得到相应的卷积输出。

滤波器的尺寸通常比原始图片要小，与权重相似，在最小化成本的反向传播中，滤波器也会被更新。就像下面这张图片一样，通过一个过滤器，依次乘以图片中每个 3×3 的分块，从而产生卷积的结果。

img

18. 卷积神经网络 CNN（Convolutional Neural Network）

卷积神经网络通常用来处理图像数据，假设输入数据的形状为 28×28×3（28pixels × 28pixels × RGBValue），那么对于传统的神经网络来说就会有 2352（28×28×3）个变量。随着图像尺寸的增加，那么变量的数量就会急剧增加。

通过对图片进行卷积，可以减少变量的数目（已在过滤器的概念中提及）。随着过滤器沿着图像上宽和高的两个方向滑动，就会产生一个相应的 2 维激活映射，最后再沿纵向将所有的激活映射堆叠在一起，就产生了最后的输出。

可以参照下面这个示意图。

img

19. 池化（Pooling）

为进一步减少变量的数目同时防止过拟合，一种常见的做法是在卷积层中引入池化层（Pooling Layer）。

最常用的池化层的操作是将原始图片中每个 4×4 分块取最大值形成一个新的矩阵，这叫做最大值池化（Max Pooling）。

img

也有人尝试诸如平均池化（Average Pooling）之类的方式，但在实际情况中最大化池化拥有更好的效果。

20. 补白（Padding）

补白（Padding）通常是指给图像的边缘增加额外的空白，从而使得卷积后输出的图像跟输入图像在尺寸上一致，这也被称作相同补白（Same Padding）。

img

如应用过滤器，在相同补白的情况下，卷积后的图像大小等于实际图像的大小。

有效补白（Valid Padding）指的是保持图片上每个真实的像素点，不增加空白，因此在经历卷积后数据的尺寸会不断变小。

21. 数据增强（Data Augmentation）

数据增强指的是从已有数据中创造出新的数据，通过增加训练量以期望能够提高预测的准确率。

比如，在数字识别中，我们遇到的数字 9 可能是倾斜或旋转的，因此如果将训练的图片进行适度的旋转，增大训练量，那么模型的准确性就可能会得到提高。

通过「旋转」「照亮」的操作，训练数据的品质得到了提升，这种过程被称作数据增强。

img

[fit]递归神经网络相关知识

22. 递归神经元（Recurrent NeuralNetwork）

对于递归神经元来说，经由它自己处理过的数据会变成自身下一次的输入，这个过程总共会进行 t 次。

如下图所示，将递归神经元展开就相当于 t 个不同的神经元串联起来，这种神经元的长处是能够产生一个更全面的输出结果。

img

23. 递归神经网络（RNN-Recurrent NeuralNetwork）

递归神经网络通常被用于处理序列化的数据，即前一项的输出是用来预测下一项的输入。

递归神经网络通常被用于处理序列化的数据，即前一项的输出是用来预测下一项的输入。递归神经网络中存在环的结构，这些神经元上的环状结构使得它们能够存储之前的数据一段时间，从而使得能够预测输出。

与递归神经元相似，在 RNN 中隐含层的输出会作为下一次的输入，如此往复经历 t 次，再将输出的结果传递到下一层网络中。这样，最终输出的结果会更全面，而且之前训练的信息被保持的时间会更久。

隐藏层将反向传递错误以更新权重。这被称为 backpropagation through time（BPTT）。

24. 梯度消失问题

当激活函数的梯度非常小时，会出现梯度消失问题。在反向传播过程中，权重因子会被多次乘以这些小的梯度, 因此会越变越小。随着递归的深入趋于「消失」，神经网络失去了长程可靠性。这在递归神经网络中是一个较普遍的问题，对于递归神经网络而言，长程可靠性尤为重要。

这一问题可通过采用 ReLu 等没有小梯度的激活函数来有效避免。

25. 梯度爆炸问题

梯度爆炸问题与梯度消失问题正好相反，梯度爆炸问题中，激活函数的梯度过大。

在反向传播过程中，部分节点的大梯度使得他们的权重变得非常大，从而削弱了其他节点对于结果的影响，这个问题可以通过截断（即设置一个梯度允许的最大值）的方式来有效避免。

电影推荐

框架：TensorFlow

使用文本卷积神经网络，并使用MovieLens数据集完成电影推荐的任务。

代码还没有看懂，还在学习

img

电影推荐-模型设计

img

电影推荐-文本卷积网络

img

图片来自Kim Yoon的论文：Convolutional Neural Networks for Sentence Classification

推荐

  1. 推荐同类型的电影 思路是计算当前看的电影特征向量与整个电影特征矩阵的余弦相似度，取相似度最大的top_k个，这里加了些随机选择在里面，保证每次的推荐稍稍有些不同。
  2. 推荐您喜欢的电影 思路是使用用户特征向量与电影特征矩阵计算所有电影的评分，取评分最高的top_k个，同样加了些随机选择部分。
  3. 看过这个电影的人还看了（喜欢）哪些电影
    • 首先选出喜欢某个电影的top_k个人，得到这几个人的用户特征向量。
    • 然后计算这几个人对所有电影的评分
    • 选择每个人评分最高的电影作为推荐
    • 同样加入了随机选择

神经网络 对比

Keras 强调极简主义,你只需几行代码就能构建一个神经网络。

Caffe 的文档非常贫乏，但在计算机视觉领域里， Caffe是无可争议的领导者，它非常稳健，非常快速。

PyTorch 中的 Tensor 和 Numpy 中的数组可以很方便地进行转换，便于用户的使用 。Caffe2 的代码将全部并入 PyTorch，这也给未来的 PyTorch 赋予了更大的潜力。

DL4J 的文档写得非常好，里面的文件很清晰，有理论阐述，也有代码案例 。

Cognitive Toolkit 似乎不是很流行。

DSSTNE框架只做一件事 一推荐系统，但它把这件事做到了极致。 DSSTNE 还不是一个足够 成熟的项目，而且它封装得太严密了 (black box)。

标签预测

automated machine learning

paper