CS224W 3. Node Embeddings

3. Node Embeddings

1. Recap: Traditioal ML for Graphs

传统的图机器学习：

• 给定一个输入图，抽取节点、边和图级别特征, 学习一个能将这些特征映射到标签的模型(像SVM， NN…)
• 这个抽取不同级别特征的过程，就是特征工程feature engineering
• 学习到模型后拿来预测就是具体的下游预测任务

1. Graph representation learning

图的表征学习：

目标：图机器学习的高效的任务无关特征学习。对于图，要抽取到任务无关的的特征，这样下游任务不同，也能用。

如上图，就是把节点u，拿函数$f: u \to \mathbb{R}^d$， 映射成向量v，$\mathbf{v} \in \mathbb{R}^d$. 这就是特征表示或者更具体地说embedding.

2. Why Embedding？

• 任务：映射节点到一个embedding 空间
  • 节点间embeddings的相似性表示它们在网络中的相似性。如节点彼此接近(被同一条边连接)，其embedding相似度要高。
  • 编码网络信息
  • 有潜力为许多下游任务做预测

Node embedding 例子：

下图是 DeepWalk: Online Learning of Social Representations原图。Karate Club数据集在2D的投影，图中不同颜色的节点在embedding后也是相距比较远的，但同一颜色都是比较近的。(甚至有一种一一对应的映射感觉, 可能效果比较好)

2. Node embedding: Encoder and Decoder

设置

• 假定有一个图G:
  • $\mathbf{V}$是顶点集
  • $\mathbf{A}$是邻接矩阵(假定是二值化的)
  • 为了简单起见，不使用节点特征和额外的信息

1. Embedding Nodes

目标是编码节点，以便embedding space中的相似度近似于图中的相似的。

如上图中，原始的网络中的邻居节点u、v ，编码到embedding空间后，对应的$z_\mathbf{u}, z_\mathbf{v}$也要相近。

节点的相似度计算：

$$\text{similarity}(u, v) \approx \mathbf{z}_v^T \mathbf{z}_u \tag{1}$$

其中, $\text{similarity}$就是接下来要讲的相似度计算函数，也是这里$\text{ENC}$表示的编码过程。

2. Learning Node Embeddings

1. Encoder 将节点映射到embeddings
2. 定义节点相似度函数(就是一个衡量原始网络中节点相似度的函数，如余弦相似度)
3. Decoder 记为DEC将embeddings映射为相似度分数
4. 优化encoder参数使得式1成立。

3. Two Key Components

• Encoder: 映射每个节点到低维度向量。

$$\text{ENC}(v) = \mathbf{z}_v \tag{2}$$

• 相似度函数: 明确编码后向量空间和原始网络是怎样的映射关系，如上图，就是原始网络中u和v的相似度和这两个节点embedding后的点积是对应的。

4. “Shallow” Encoding

最简单的编码方法: 编码器仅仅是一个embedding-lookup.

对于式2继续完善下:

$$\text{ENC}(v) = \mathbf{z}_v = \mathbf{Z} \cdot v\tag{3}$$

其中,$\mathbf{Z} \in \mathbb{R}^{d\times |\mathcal{V|}}$, 这是一个$d \times |\mathcal{V}|$的矩阵，每一列都是一个节点的embedding[通过学习/优化得到的]。怎么得到后面再说，要明确的是， 这是由$d$个节点的$\mathcal{V}$维embedding构成的矩阵。

而$v \in \mathbb{I}^{|\mathcal{V}|}$是一个指示向量，除了对应节点$\mathbf{v}$那一列是1外其他都是0（one-hot向量）。这样从矩阵乘法来说，式3相乘的过程就是一个查表的过程。这也是为什么说这是一个embedding-lookup。下图图示就非常清楚了，注意一下这个矩阵$\mathbf{Z}$名字叫embedding matrix(NLP 同学相对很容易理解)。

学习或优化得到embedding matrix的方法有: DeepWalk, node2vec。

5. Framework Summary

Encoder+Decoder Framework

• 浅层的编码器: embedding lookup
• 参数优化: $\mathbf{Z}$ 包含$u \in \mathbf{V}$即图中所有节点embedding $\mathbf{z}_u$.
• 深层的编码器GNNs将会在Lecture 6讲到。

• Decoder：基于节点相似度
• 目标：最大化相似节点对(u, v)的$\mathbf{z}_v^T \mathbf{z}_u$.

6. How to Define Node Similarity?

• 上述方法的关键点是怎么定义节点相似度 ？
• 两个节点应该有相似的embedding如果它们…
  • 是邻接的
  • 有共同邻居节点
  • 有相似的结构特征
• 接下来将用随机游走来学习获得节点相似度，和怎样为该相似度指标优化embedding。

7. Note on Node Embeddings

• 监督学习和非监督学习方法都可以用来学习节点的embedding
  • 不利用节点标签
  • 不利用节点特征
  • 目标是直接估计一组节点坐标(embedding)，以便保留网络某些结构
• embeddings都是任务无关的
  • 不为特定任务训练但可以在任何任务上使用

3. Random Walk Approaches for Node Embeddings

1. Notation

记号：

• 向量$\mathbf{z}_u$: 节点u的embedding (我们要学习到的)
• 概率$P(\mathcal{v}|\mathbf{z}_u)$: 基于$\mathbf{z}_u$的预测概率，即从节点u开始随机游走到节点v的概率

非线性函数用来生成预测概率：

1. Softmax函数：将K实数向量转化为总和为1的K概率值，Softmax函数分子就是将原值$\mathbf{z}_i$转化为e的幂次，分母表示归一化因子来确保和为1
2. Sigmoid函数：S-shape函数将实数值转化为(0, 1)之间的值

2. Random Walk

给定一个图和一个起点，我们可以随机选取一个邻居作为下一个游走的点，接下来我们继续选取下一个邻居游走，重复。这个访问的节点随机序列就是图的随机游走。

3. Random-Walk Embeddings

这里$\mathbf{z}_u^T\mathbf{z}_v$表示$\mathbf{u}, \ \mathbf{v}$在图中一次随机游走时共同出现的概率。

1. 估算使用策略R的随机游走从节点u访问到节点v的概率
2. 这个概率就是节点u和v的相似度，我们可以根据这个概率来优化embedding，在embedding空间的相似度，这里$\text{dot product}=\cos(\theta)$,就是编码的随机游走相似度。

4. Why Random Walks?

• 可解释性：灵活的随机的节点相似度定义，随机游走每步的游走表示了节点的局部信息，游走路径序列表示了全局信息，这样包含了局部和高阶的邻域信息。
  • 想法:如果以较高的概率随机从节点u访问节点v，那么u和v是相似的(高阶，多跳的信息)。
• 高效性：不需要在训练时考虑所有节点对；仅仅只要考虑随机游走时的共现对，节省了计算量

5. Unsupervised Feature Learning

• 直觉: 找到节点在保留相似度的d维空间的embedding。
• 想法:学习节点的embedding使得网络中邻近的节点的embedding是相近的，就是如果在网络中邻近的节点，embedding后相似度要高，这样就将图结构的网络空间信息embedding到embedding space。
• 给定节点u，怎么定义邻近节点？
  • $N_R(u)$表示某一随机游走策略R中获得的节点u的邻居节点。

6. Feature Learning as Optimization

如果设置优化问题？

• 给定图$G=(V, E)$
• 目标是学习一个映射$f: u \to \mathbb{R}^d \ : f(u)=\mathbf{z}_u$
• 对数似然目标函数：

$$\max_{f} \sum_{u\in V} \log \ P(N_R(u)|\mathbf{Z}_u) \tag{3}$$

其中，$N_R(u)$ 是某一策略R随机游走中节点u的邻居节点

解释下式3，对于节点u和其邻居节点，$P(N_R(u)|\mathbf{Z}_u)$表示给定节点u的情况下，让其邻居节点出现的概率最大。总的来说就是让图中所有节点，在映射函数f的作用下，使得每个节点u的邻居节点出现的概率的对数和最大。

• 给定节点u，我们希望学习特征表示是对出现节点u随机游走邻域节点$N_R(u)$的预测。

7. Random Walk Optimization

怎么去做？

1. 使用固定长度的游走策略R从图中每个节点u进行随机游走
2. 对每个节点u记录其$N_R(u)$，就是从u出发随机游走得到的节点集合(这是个multiset，因为有重复元素,随机游走会重复访问多次)
3. 按照给定节点u预测其邻域节点$N_R(u)$

等价地，

$$\mathcal{L} = \sum_{u \in V} \sum_{v \in N_R(u)} - \log (P(v|\mathbf{z}_u)) \tag{4}$$

这里把$N_R(u)$用v来表示了下。

• 直觉: 优化embeddings $\mathbf{z}_u$来最大随机游走共现的似然概率。
• 对$P(v|\mathbf{z}_u)$使用softmax有：

$$P(v|\mathbf{z}_u) = \frac{\exp(\mathbf{z}_u^T\mathbf{z}_v)}{\sum_{n\in V} \exp(\mathbf{z}_u^T\mathbf{z}_n)} \tag{5}$$

为什么使用softmax? 因为节点v的和节点u相似度最大的，经过$f(x) = e^x$处理后能更加区分出来。分母只是因为要归一化，概率和为1。

将式4和式5结合起来：

$$\mathcal{L} = \sum_{u \in V} \sum_{v \in N_R(u)} - \log (\frac{\exp(\mathbf{z}_u^T\mathbf{z}_v)}{\sum_{n\in V } \exp(\mathbf{z}_u^T\mathbf{z}_n)}) \tag{6}$$

1. 第一个求和是对图中所有节点u，要整体最大不能是单一节点
2. 第二个求和是对从u到v的所有随机游走中出现的节点v求和
3. 最后黄色部分是预测在随机游走中u和v共现的概率

但实际做起来计算代价非常高，是图节点数的平方次复杂度。

那么我们能不能优化式6呢？

分母的归一化部分，有$|V|$的复杂度，如果能优化就会极大降低计算复杂度。

8.Negative Sampling

解决方法： 负采样。

这里将softmax替换为sigmoid, 近似得到:

$$\log (\frac{\exp(\mathbf{z}_u^T\mathbf{z}_v)}{\sum_{n\in V } \exp(\mathbf{z}_u^T\mathbf{z}_n)}) \approx \log(\sigma(\mathbf{z}_u^T\mathbf{z}_v)) - \sum_{i=1}^k \log(\mathbf{z}_u^T\mathbf{z}_{n_i})),\ 其中\ n_i \sim P_V \tag{7}$$

负采样就是将式7分母归一化部分中所有节点$n$替换为，随机采样得到的k个负样本$n_i$，即不在random walk上的样本。

负采样使得对数部分计算非常迅速。

• 以节点度对应的概率来采样k个负样本节点
• 两个决定k的因素
  1. 更高的k对应更可靠的估计值
  2. 更高的k对应着更多的负样本带来的更高的偏差

实际上,$k=5-20$。那么能不能采样任何节点获取负样本，或者只采样不在random walk上的节点？

答案是：实际操作中，对任何节点采样来获得负样本，高效性。正确的方式是只采样不在random wall上的节点。

9. Stochastic Gradient Descent

• 获得目标函数后，我们怎么最小化它呢？
• 梯度下降来最小化损失函数$\mathcal{L}$:
  • 在所有节点u中随机选取一个初始化，得到$\mathbf{z}_u$
  • 迭代直到收敛
    • 对所有节点u，计算导数$\frac{\partial \mathcal{L}}{\partial \mathbf{z}_u}$
    • 对所有节点u，计算以学习率为$\eta$更新迭代后的导数: $\mathbf{z}_u \leftarrow \mathbf{z}_u - \eta \frac{\partial \mathcal{L}}{\partial \mathcal{z}_u}$

Stochastic Gradient Descent 随机梯度下降就是把所有节点替换为一批独立的训练样本节点。

10. Random Walks: Summary

1. 从图中每一个节点进行短径固定长度的随机游走
2. 对每一个节点u记录其邻域节点$N_R(u)$， 这是一个从u开始随机游走得到节点的multiset，有重复节点
3. 使用随机梯度下降算法来优化embedding，使得损失函数最小

11. How should we randomly walk？

• 前面已经讲了怎么在给定策略R的情况下优化embeddings

• 那么我们应该使用什么策略进行随机游走呢？最简单的想法：直接固定长度，每个节点都无偏的随机游走。

  但问题是这样的策略使得相似度有非常大的局限性。

• 我们怎么将其泛化呢？

12. Node2Vec

1. Overview of node2vec

node2vec 来自于论文 node2vec: Scalable Feature Learning for Networks，想详细了解可以阅读下。

• 目标： 在特征空间嵌入相似性来表示邻近节点
• 将这个目标表示为最大似然优化问题，对下游预测任务独立。

• 关键点：节点u的邻域节点$N_R(u)$灵活性能丰富的节点embeddings

• 进一步的有偏的2阶(2阶就是走2步)随机游走R可以生成节点u的邻域节点$N_R(u)$的邻近节点

1. node2vec: Bias Walks

想法：使用灵活，有偏的随机游走能平衡网络局部和全局信息。

两种典型的策略来定义给定节点u的邻域节点$N_R(u)$:BFS 和DFS。

这是两种常见的图搜索算法，

• BFS广度优先搜索: 以某节点为起点搜索其所有的邻居节点，局部视角
• DFS深度优先搜索: 以某节点为起点直到搜索到终点为止，全局视角

下图是二者比较：

插入BFS和DFS：

有偏的固定长度随机游走R，在给定节点u的情况下能得到邻域节点$N_R(u)$

• 两个超参数
  1. Return parameter p(返回参数)，用来控制是否返回以前的节点。
  2. In-out parameter q(出入参数), 表示在起点附近游走inwards（类似BFS）和向更远处游走outwards（类似DFS）的比例，直觉来说就是BFS和DFS的比率。

13. Biased Random Walks

有偏的2阶随机游走探索网络邻居节点：

• 假设通过边$(s_1, w)$到达w节点
• 那么现在w节点的邻居节点可能是$s1, s2, s_3$。这跟最开始的起点$s_1$的意义是不一样的，具体如上图所示。

想法：记住从哪来

• 通过边$(s_1, w)$走到w节点，下一步去哪？

  这里，如上图所示，走到下一个节点的的概率是不一样的。(注意，$\frac{1}{p}, \frac{1}{q}, 1$不是归一化的概率，加起来和不为1)

• p, q是 模型的转移概率。

如上图所示，前一步通过边$(s_1, w)$到达节点w。现在走到的节点w，邻居节点有$s_1, s_2, s_3, s_4$。具体怎么设计p, q概率呢？

根据上一跳节点和下一跳节点的距离设计，说到距离，就要明确这两点在哪？上一跳节点为$s_1$，下一跳为$s_1, s_2, s_3, s_4$。

论文 node2vec: Scalable Feature Learning for Networks 3.2.2 Search bias α部分提到：

$$\alpha_{p q}(t, x)=\left\{\begin{array}{ll} \frac{1}{p} & \text { if } d_{t x}=0 \\ 1 & \text { if } d_{t x}=1 \\ \frac{1}{q} & \text { if } d_{t x}=2 \end{array}\right. \tag{7}$$

这里$t, x$分别表示上一跳节点，和未来要走到的节点。$d_{tx}$表示距离。

上图中，$s_1$到$s_1$的距离为0，所以为$\frac{1}{p}$。

还有可能跳到节点$s_2, s_2, s_3$到$s_1$的距离分别为1， 2， 2，就得到如图示的转移概率。这时的概率还没有归一化，最后要归一化。

• 类似BFS的游走：较小的p值，那么$\frac{1}{p}$就较大，会回到上一跳节点。
• 类似DFS的游走: 较小的q值，会往跟上一跳较远的距离跳

14. node2vec algorithm

1. 计算随机游走概率
2. 从每个节点u开始模拟策略r距离为l的随机游走
3. 用随机梯度下降优化node2vec 目标

优点：线性时间复杂度(节点邻居树是固定的)，三步都是独立的可以并行化。

其它随机游走想法：

15. Summary so far

• 核心想法： 嵌入节点使得嵌入空间的距离反映原网络的节点相似度
• 不同的节点相似度表示
  • 简单的： 如果两个节点相连就相似
  • 邻居的重叠度(第二节谈到)
  • 随机游走方法(本节内容)

那我们应该用什么方法？

• 没有一种方法是万能的，如node2vec在节点分类表现好，然而其他方法在边预测上好
• 随机游走方法通常比较高效
• 总的来说，要选择节点相似度符合你的任务。

4. Embedding Entire Graphs

• 目标：想要把一个子图或者一张图嵌入到特征空间去，得到图的embedding:$\mathbf{z}_G$
• 具体任务：
  • 对有毒和无毒分子分类
  • 鉴别异常的图

1. 方法1

简单但有效的方法1：

1. 对子图和整张图进行标准的node embedding
2. 然后对图(或子图)中所有节点的embedding直接求和平均：

$$\mathbf{z}_G = \sum_{v \in G} \mathbf{z}_v \tag{8}$$

2. 方法2

方法2：引入一个”虚拟节点“来表示子图，然后再对其用node embedding。

3. 方法3： Anonymous Walk Embeddings

来源于 论文Anonymous Walk Embeddings。

匿名游走的节点如果在先前出现过，则将此时的index设置为它第一次出现时的index，习惯性从1开始计数，每当遇到一个新的没有遇到过的节点，则自增state（index），即state的最大值等于这一条walk中存在的unique的节点数目。

​ —— Machine Learning with Graphs 之 Anonymous Walk Embeddings

对于例子：Random walk $w_1$整条walk的序列为$1 \to 2 \to 3 \to 2\to 3$.

而Random walk $w_2$的序列为$1\to 2\to 3\to 2\to 3$。它们有一样的anonymous walk.

4. Number of Walks Grows

对于一个给定的图G，匿名游走得到的pattern数目跟路径长度l成指数成长。

路径长度为3的匿名游走pattern有5个。

5. Simple Use of Anonymous Walks

那么我们怎么利用匿名游走来嵌入整张图呢？

• 记录所有的长度l的匿名游走$w_i$
• 将图表示为这些匿名游走的分布

具体来说，就像上节中的Graphlet Degree Vector(GDV)，我们先统计得到所有长度为l的匿名游走pattern，然后将图表示为获得pattern的频数或者概率。

举例来说,

1. 设定l=3
2. 将图表示为5维的向量
   • 因为长度为3的匿名游走有5种pattern
   • $\mathbf{z}_G[i]=$ 图中出现匿名游走pattern i的概率.

6. Sampling Anonymous Walks

当l=12时，匿名游走w数目有4M。实际操作中，我们用采样来降低计算复杂度。

• 独立地采样m条随机游走路径来近似匿名游走pattern
• 用这些采样得到的随机游走路径的概率分布来表示图

那么我们的m取多大？可用下式来估算：

$$m=\left[\frac{2}{\varepsilon^{2}}\left(\log \left(2^{\eta}-2\right)-\log (\delta)\right)\right] \tag{9}$$

其中，$\eta$是长度为$l$的匿名游走的总数。计算下上图例子，

当$\epsilon = 0.1, \delta=0.01$时, $m = 200 \times 612.5=122,500$

7. New idea: Learn Walk Embeddings

不简单地用每次游走出现的次数的分数来表示匿名游走$w_i$,而是学习匿名游走$w_i$的embedding $\mathbf{z}$。

具体来说，(这跟NLP的doc2vec类似，后面再说)

• 就是将所有的匿名游走的embedding $\mathbf{z}_i$加上图的embedding $\mathbf{z}_G$一起输入学习，其中$\mathbf{Z}={\mathbf{z}_i: i=1 \cdots\eta}$。

这里，$\eta$ 是采样的匿名游走数目。

那么怎么embed walks？

• 想法：跟node2vec类似，通过预测下一跳周围的walk来学习embed walks。

实际流程如下：

• 输出：也就是预测，输入图的embeding $\mathbf{z}_G$ 。这个$\mathbf{z}_G$ 也是要学习的目标。
• 从节点1开始，采样获得匿名随机游走，如上图所示$w_1, w_2, w_3, w_4$。
• 学习预测 walks 共现在$\Delta-\text{size}$窗口内的概率，比如，当窗口为2时，给定$w_1, w_2$去预测$w_3$

这样整个目标函数为：

$$\max_{\mathbf{z}_G } \sum_{t=\Delta+1}^T \log P(w_t| w_{t-\Delta}, \cdots, w_{t-1}, \mathbf{z}_G) \tag{10}$$

其中，$T$是所有的walks数目。

对于式10，

• 对数里面，表示给定图的embedding $\mathbf{z}_G$ 和一定范围窗口内的采样匿名随机游走情况下，下一个walk出现的概率。

每个步骤具体来说，

• 从节点u获取长度为l的T条不同的随机walks
• 学习预测将会出现在共现$\Delta-\text{size}$窗口内的walks
• 评估匿名游走$w_i$的embedding $\mathbf{z}_i$。

目标函数为：

$$\max _{\mathbf{z}_{i}, \mathbf{z}_{\boldsymbol{G}}} \frac{1}{T} \sum_{t=\Delta}^{T} \log P\left(w_{t} \mid\left\{w_{t-\Delta}, \ldots, w_{t-1}, \mathbf{z}_{\boldsymbol{G}}\right\}\right) \tag{11}$$

这里，$\mathbf{z}_{i}$是负采样得到所有匿名游走的embedding，$\mathbf{z}_{\boldsymbol{G}}$是图的embedding.

$$P\left(w_{t} \mid\left\{w_{t-\Delta}, \ldots, w_{t-1}, \mathbf{z}_{\boldsymbol{G}}\right\}\right) =\frac{\exp(y(w_t))}{\sum^{\Delta}_{i=1}\exp(y(w_i))} \tag{12}$$

式12，表示当前walk t共现的可能性，分母是归一化因子，为了确保概率和为1。

其中$y(w_t)$计算如下：

$$y(w_t) = b+U \cdot (\text{cat}(\frac{1}{\Delta}\sum_{i=1}^\Delta \mathbf{z}_i, \mathbf{z}_\boldsymbol{G})) \tag{13}$$

其中，$\text{cat}(\frac{1}{\Delta}\sum_{i=1}^\Delta \mathbf{z}_i, \mathbf{z}_\boldsymbol{G})$表示：

• 将所有匿名walk的embedding加起来再求平均，从$t-\Delta$到$t-1$总共$\Delta$个embeddings，就除以$\Delta$
• 然后将平均的embeddings和图的embedding $\mathbf{z}_\boldsymbol{G}$拼接起来

拼接后的embeddings一起输入到一个线性投影层，这就是整个式13的意义。

这里，$b \in \mathbb{R}, U\in \mathbb{R}^D$是可学习的参数。

Optimization：

• 通过优化可以学习到图的embedding $\mathbf{z}_\boldsymbol{G}$表示
  • $\mathbf{z}_\boldsymbol{G}$是不是简单地对walk embedding $\mathbf{z}_i$求和？$\mathbf{z}_\boldsymbol{G}$是不是下一个$\mathbf{z}_i$的残差？
  • 论文中，$\mathbf{z}_\boldsymbol{G}$是一个独立优化的向量参数，跟$\mathbf{z}_i$一样
• 用$\mathbf{z}_\boldsymbol{G}$来做预测，如图分类。
  • 选择1： 内积和$\mathbf{z}_\boldsymbol{G_1}^T\mathbf{z}_\boldsymbol{G_2}$(小节2中提到的)
  • 选择2：把$\mathbf{z}_\boldsymbol{G}$输入到神经网络来对图分类

接下来看看Anonymous Walk Embeddings 跟 doc2vec(来自 Distributed Representations of Sentences and Documents)类似之处。

比较两幅整体结构图，

• Graph类似paragraph或document
• Anonymous walk类似于 word

更多展开分析就不进行了(如公式)，只是说下很多研究都是借鉴前人或其它方向的思想。

8. Summary

总结：

3种graph embedding方法：

1. 方法一：简单粗暴直接embed node求和平均它们
2. 方法2：创建super-node映射子图，然后embed 这个super-node
3. 方法3： Anonymous Walk Embeddings

9. Preview:Hierarchical Embeddings

• Lecture 8 将学习更先进的方法来获取graph embeddings
• 在图中使用层次聚类节点，然后对这些聚类进行求和/平均得到节点embeddings

10. How to Use Embeddings?

怎么使用节点的embeddings $\mathbf{z}_i$：

• 聚类/社区发现: 聚类$\mathbf{z}_i$点
• 节点分类：基于$\mathbf{z}_i$预测节点i的标签
• 边预测： 基于$(\mathbf{z}_i, \mathbf{z}_j)$预测边$(i, j)$, 可以通过平均，平均，哈达玛积(Hadamard), 求embeddings的差值
• 图预测：通过聚合节点embeddings或匿名随机游走获得的图embedding $\mathbf{z}_G$来预测图的标签

本节总结

Inference

[1] 7.Graph Representation Learning

[2] Node Representation Learning

[3] Embeddings

[4] 图表示学习（1）- 图嵌入

[5] [图嵌入 (Graph Embedding) 和图神经网络 (Graph Neural Network)](