文章目录

  • 前言
  • 一、导入相关库
  • 二、加载Cora数据集
  • 三、定义GCN网络
    • 3.1 定义GCN层
      • 3.1.1 邻接矩阵A
      • 3.1.2 度矩阵D
      • 3.1.3 获取矩阵 D −1/2 D^{-1/2} D1/2
      • 3.1.4 GCNConv层
    • 3.2 定义GCN网络
  • 四、定义模型
  • 五、模型训练
  • 六、模型验证
  • 七、结果
  • 完整代码

前言

大家好,我是阿光。

本专栏整理了《图神经网络代码实战》,内包含了不同图神经网络的相关代码实现(PyG以及自实现),理论与实践相结合,如GCN、GAT、GraphSAGE等经典图网络,每一个代码实例都附带有完整的代码。

正在更新中~ ✨

我的项目环境:

  • 平台:Windows10
  • 语言环境:python3.7
  • 编译器:PyCharm
  • PyTorch版本:1.11.0
  • PyG版本:2.1.0

项目专栏:【图神经网络代码实战目录】


本文我们将使用PyTorch来简易实现一个GCN(图卷积网络),不使用PyG库,让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo。

一、导入相关库

本项目是采用自己实现的GCN,并没有使用 PyG 库,原因是为了帮助新手朋友们能够对GCN的原理有个更深刻的理解,如果熟悉之后可以尝试使用PyG库直接调用 GCNConv 这个图层即可。

import numpy as npimport torchimport torch.nn as nnimport torch.nn.functional as Ffrom scipy.sparse import coo_matrixfrom torch_geometric.datasets import Planetoid

二、加载Cora数据集

本文使用的数据集是比较经典的Cora数据集,它是一个根据科学论文之间相互引用关系而构建的Graph数据集合,论文分为7类,共2708篇。

  • Genetic_Algorithms
  • Neural_Networks
  • Probabilistic_Methods
  • Reinforcement_Learning
  • Rule_Learning
  • Theory

这个数据集是一个用于图节点分类的任务,数据集中只有一张图,这张图中含有2708个节点,10556条边,每个节点的特征维度为1433。

# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')

三、定义GCN网络

3.1 定义GCN层

这里我们就不重点介绍GCN网络了,相信大家能够掌握基本原理,本文我们使用的是PyTorch定义网络层。

对于GCNConv的常用参数:

  • in_channels:每个样本的输入维度,就是每个节点的特征维度
  • out_channels:经过注意力机制后映射成的新的维度,就是经过GAT后每个节点的维度长度
  • add_self_loops:为图添加自环,是否考虑自身节点的信息
  • bias:训练一个偏置b

我们在实现时也是考虑这几个常见参数

对于GCN的传播公式为:
H ′= D^−1/2A ^ D^−1/2 HWH’=\hat D^{-1/2} \hat A \hat D^{-1/2}HW H=D^1/2A^D^1/2HW

上式子中的 DDD 代表图的度矩阵, AAA 代表邻接矩阵,如果考虑自身特征,则 A^= A + I\hat A=A+IA^=A+I HHH代表每个层的输入特征,也就是每个节点的特征矩阵,如果是第一层,则 H0= XH_0=XH0=X,对于 WWW 代表每个 GCNConv 层的可学习参数。

所以我们的任务无非就是获取这几个变量,然后进行传播计算即可

3.1.1 邻接矩阵A

由于我们使用的是内置数据集 Cora,他给出的数据集并没有给出对应的邻接矩阵,所以我们需要手动实现获取该图对应的邻接矩阵。

adj = coo_matrix((torch.ones(edge_index.shape[1]), (edge_index[0].numpy(), edge_index[1].numpy())),shape=(x.shape[0], x.shape[0]))values = dataindices = np.vstack((adj.row, adj.col))i = torch.LongTensor(indices)v = torch.FloatTensor(values)shape = adj.shapeadj = torch.sparse.FloatTensor(i, v, torch.Size(shape)).to_dense()

3.1.2 度矩阵D

上面获取了邻接矩阵之后,每行元素的求和就代表每个元素的度,所以直接对邻接矩阵进行求行和即可。

degree = adj.sum(axis=1)

3.1.3 获取矩阵 D − 1 / 2 D^{-1/2}D1/2

由于我们要对矩阵进行归一化,所以需要计算 D − 1 / 2 D^{-1/2}D1/2,可以使用如下代码:

degree_2 = torch.torch.diag_embed(torch.pow(self.degree, -0.5).flatten())

3.1.4 GCNConv层

接下来就可以定义GCNConv层了,该层实现了3个函数,分别是 init_parameters()get_L_sym()forward()

  • init_parameters():初始化可学习参数
  • get_L_sym():矩阵归一化,计算GCN公式中的 D −1/2 A D −1/2 D^{-1/2}AD^{-1/2} D1/2AD1/2,由于这部分不依赖数据,所以只需要计算一次,然后保留到类内部参数即可
  • forward():这个函数定义模型的传播过程,也就是上面公式的 D −1/2 A D −1/2 HWD^{-1/2}AD^{-1/2}HW D1/2AD1/2HW,如果设置了偏置在加上偏置返回即可
class GCNConv(nn.Module):def __init__(self, in_channels, out_channels, add_self_loops=True, bias=True):super(GCNConv, self).__init__()self.in_channels = in_channels # 输入图节点的特征数self.out_channels = out_channels # 输出图节点的特征数self.add_self_loops = add_self_loops # 是否考虑节点自身添加自环self.adj = None # 邻接矩阵Aself.degree = None # 度矩阵Dself.degree_2 = None # D^(-0.5)self.adj_t = None # D^(-0.5)AD^(-0.5)# 定义参数 θself.weight = nn.Parameter(torch.FloatTensor(in_channels, out_channels))if bias:self.bias = nn.Parameter(torch.FloatTensor(out_channels, 1))self.init_parameters()# 初始化可学习参数def init_parameters(self):nn.init.xavier_uniform_(self.weight)if self.bias != None:nn.init.xavier_uniform_(self.bias)# 计算D^(-1/2)AD^(-1/2)def get_L_sym(self, x, edge_index):# 1.获取邻接矩阵Aif self.adj == None:self.adj = coo_matrix((torch.ones(edge_index.shape[1]), (edge_index[0].numpy(), edge_index[1].numpy())),shape=(x.shape[0], x.shape[0]))values = self.adj.dataindices = np.vstack((self.adj.row, self.adj.col))i = torch.LongTensor(indices)v = torch.FloatTensor(values)shape = self.adj.shapeself.adj = torch.sparse.FloatTensor(i, v, torch.Size(shape)).to_dense()# 2.添加自环if self.add_self_loops:self.adj = self.adj + torch.eye(self.adj.shape[0])# 3.获取度矩阵Dif self.degree == None:self.degree = self.adj.sum(axis=1)# 4.获取D^(-0.5)if self.degree_2 == None:self.degree_2 = torch.torch.diag_embed(torch.pow(self.degree, -0.5).flatten())# 5.计算D^(-0.5)AD^(-0.5)if self.adj_t == None:self.adj_t = torch.mm(self.degree_2, self.adj).mm(self.degree_2)def forward(self, x, edge_index):# 1.获取D^(-0.5)AD^(-0.5)if self.adj_t == None:self.get_L_sym(x, edge_index)# 2.计算HWx = torch.mm(x, self.weight) # num_nodes, out_channels# 3.计算D^(-0.5)AD^(-0.5)HWoutput = torch.spmm(self.adj_t, x) # 计算# 4.添加偏置if self.bias != None:return output + self.bias.flatten()else:return output

对于我们实现这个网络的实现效率上来讲比PyG框架内置的 GCNConv 层稍差一点,因为我们是按照公式来一步一步利用矩阵计算得到,没有对矩阵计算以及算法进行优化,不然初学者可能看不太懂,不利于理解GCN公式的传播过程,有能力的小伙伴可以看下官方源码学习一下。

3.2 定义GCN网络

上面我们已经实现好了 GCNConv 的网络层,之后就可以调用这个层来搭建 GCN 网络。

# 定义GCN网络class GCN(nn.Module):def __init__(self, num_node_features, num_classes):super(GCN, self).__init__()self.conv1 = GCNConv(num_node_features, 16)self.conv2 = GCNConv(16, num_classes)def forward(self, data):x, edge_index = data.x, data.edge_indexx = self.conv1(x, edge_index)x = F.relu(x)x = F.dropout(x, training=self.training)x = self.conv2(x, edge_index)return F.log_softmax(x, dim=1)

上面网络我们定义了两个GCNConv层,第一层的参数的输入维度就是初始每个节点的特征维度,输出维度是16。

第二个层的输入维度为16,输出维度为分类个数,因为我们需要对每个节点进行分类,最终加上softmax操作。

四、定义模型

下面就是定义了一些模型需要的参数,像学习率、迭代次数这些超参数,然后是模型的定义以及优化器及损失函数的定义,和pytorch定义网络是一样的。

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 10 # 学习轮数lr = 0.003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 3.定义模型model = GCN(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数

五、模型训练

模型训练部分也是和pytorch定义网络一样,因为都是需要经过前向传播、反向传播这些过程,对于损失、精度这些指标可以自己添加。

# 训练模式model.train()for epoch in range(epochs):optimizer.zero_grad()pred = model(data)loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度loss.backward()optimizer.step()if epoch % 20 == 0:print("【EPOCH: 】%s" % str(epoch + 1))print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')

六、模型验证

下面就是模型验证阶段,在训练时我们是只使用了训练集,测试的时候我们使用的是测试集,注意这和传统网络测试不太一样,在图像分类一些经典任务中,我们是把数据集分成了两份,分别是训练集、测试集,但是在Cora这个数据集中并没有这样,它区分训练集还是测试集使用的是掩码机制,就是定义了一个和节点长度相同纬度的数组,该数组的每个位置为True或者False,标记着是否使用该节点的数据进行训练。

# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('TestAccuracy: {:.4f}'.format(acc_test), 'TestLoss: {:.4f}'.format(loss_test))

七、结果

【EPOCH:1训练损失为:2.0124 训练精度为:0.1929【EPOCH:21训练损失为:1.9400 训练精度为:0.1857【EPOCH:41训练损失为:1.8269 训练精度为:0.3500【EPOCH:61训练损失为:1.7327 训练精度为:0.4500【EPOCH:81训练损失为:1.6719 训练精度为:0.5143【EPOCH:101训练损失为:1.5983 训练精度为:0.5500【EPOCH:121训练损失为:1.4344 训练精度为:0.6857【EPOCH:141训练损失为:1.3838 训练精度为:0.7357【EPOCH:161训练损失为:1.2925 训练精度为:0.7571【EPOCH:181训练损失为:1.2392 训练精度为:0.7714【Finished Training!】>>>Train Accuracy: 0.9357 Train Loss: 1.1050>>>TestAccuracy: 0.6900 TestLoss: 1.4413
训练集测试集
Accuracy0.93570.6900
Loss1.10501.4413

完整代码

import numpy as npimport torchimport torch.nn as nnimport torch.nn.functional as Ffrom scipy.sparse import coo_matrixfrom torch_geometric.datasets import Planetoid# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')# 2.定义GCNConv层class GCNConv(nn.Module):def __init__(self, in_channels, out_channels, add_self_loops=True, bias=True):super(GCNConv, self).__init__()self.in_channels = in_channels # 输入图节点的特征数self.out_channels = out_channels # 输出图节点的特征数self.add_self_loops = add_self_loops # 是否考虑节点自身添加自环self.adj = None # 邻接矩阵Aself.degree = None # 度矩阵Dself.degree_2 = None # D^(-0.5)self.adj_t = None # D^(-0.5)AD^(-0.5)# 定义参数 θself.weight = nn.Parameter(torch.FloatTensor(in_channels, out_channels))if bias:self.bias = nn.Parameter(torch.FloatTensor(out_channels, 1))self.init_parameters()# 初始化可学习参数def init_parameters(self):nn.init.xavier_uniform_(self.weight)if self.bias != None:nn.init.xavier_uniform_(self.bias)# 计算D^(-1/2)AD^(-1/2)def get_L_sym(self, x, edge_index):# 1.获取邻接矩阵Aif self.adj == None:self.adj = coo_matrix((torch.ones(edge_index.shape[1]), (edge_index[0].numpy(), edge_index[1].numpy())),shape=(x.shape[0], x.shape[0]))values = self.adj.dataindices = np.vstack((self.adj.row, self.adj.col))i = torch.LongTensor(indices)v = torch.FloatTensor(values)shape = self.adj.shapeself.adj = torch.sparse.FloatTensor(i, v, torch.Size(shape)).to_dense()# 2.添加自环if self.add_self_loops:self.adj = self.adj + torch.eye(self.adj.shape[0])# 3.获取度矩阵Dif self.degree == None:self.degree = self.adj.sum(axis=1)# 4.获取D^(-0.5)if self.degree_2 == None:self.degree_2 = torch.torch.diag_embed(torch.pow(self.degree, -0.5).flatten())# 5.计算D^(-0.5)AD^(-0.5)if self.adj_t == None:self.adj_t = torch.mm(self.degree_2, self.adj).mm(self.degree_2)def forward(self, x, edge_index):# 1.获取D^(-0.5)AD^(-0.5)if self.adj_t == None:self.get_L_sym(x, edge_index)# 2.计算HWx = torch.mm(x, self.weight) # num_nodes, out_channels# 3.计算D^(-0.5)AD^(-0.5)HWoutput = torch.spmm(self.adj_t, x) # 计算# 4.添加偏置if self.bias != None:return output + self.bias.flatten()else:return output# 3.定义GCNConv网络class GCN(nn.Module):def __init__(self, num_node_features, num_classes):super(GCN, self).__init__()self.conv1 = GCNConv(num_node_features, 16)self.conv2 = GCNConv(16, num_classes)def forward(self, data):x, edge_index = data.x, data.edge_indexx = self.conv1(x, edge_index)x = F.relu(x)x = F.dropout(x, training=self.training)x = self.conv2(x, edge_index)return F.log_softmax(x, dim=1)device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 200 # 学习轮数lr = 0.0003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 4.定义模型model = GCN(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数# 训练模式model.train()for epoch in range(epochs):optimizer.zero_grad()pred = model(data)loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度loss.backward()optimizer.step()if epoch % 20 == 0:print("【EPOCH: 】%s" % str(epoch + 1))print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('TestAccuracy: {:.4f}'.format(acc_test), 'TestLoss: {:.4f}'.format(loss_test))