文章目录
- 前言
- 一、导入相关库
- 二、加载Cora数据集
- 三、定义MLP网络
- 3.1 定义MLP层
- 3.1.1 定义参数 WW W 和 bb b
- 3.1.2 定义传播函数
- 3.1.3 MLP层
- 3.2 定义MLP网络
- 四、定义模型
- 五、模型训练
- 六、模型验证
- 七、结果
- 完整代码
前言
大家好,我是阿光。
本专栏整理了《图神经网络代码实战》,内包含了不同图神经网络的相关代码实现(PyG以及自实现),理论与实践相结合,如GCN、GAT、GraphSAGE等经典图网络,每一个代码实例都附带有完整的代码。
正在更新中~ ✨
我的项目环境:
- 平台:Windows10
- 语言环境:python3.7
- 编译器:PyCharm
- PyTorch版本:1.11.0
- PyG版本:2.1.0
项目专栏:【图神经网络代码实战目录】
本文我们将使用PyTorch来简易实现一个MLP网络,不使用PyG库,让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo。
一、导入相关库
本项目是采用自己实现的MLP,并没有使用 PyG
库,原因是为了帮助新手朋友们能够对MLP的原理有个更深刻的理解,如果熟悉之后可以尝试使用PyG库直接调用 MLP
这个图层即可。
import torchimport torch.nn as nnimport torch.nn.functional as Ffrom torch_geometric.utils import scatterfrom torch_geometric.datasets import Planetoidimport torch_geometric.nn as pyg_nn
二、加载Cora数据集
本文使用的数据集是比较经典的Cora数据集,它是一个根据科学论文之间相互引用关系而构建的Graph数据集合,论文分为7类,共2708篇。
- Genetic_Algorithms
- Neural_Networks
- Probabilistic_Methods
- Reinforcement_Learning
- Rule_Learning
- Theory
这个数据集是一个用于图节点分类的任务,数据集中只有一张图,这张图中含有2708个节点,10556条边,每个节点的特征维度为1433。
# 1.加载Cora数据集dataset = Planetoid(root='./data/Cora', name='Cora')
三、定义MLP网络
3.1 定义MLP层
这里我们就不重点介绍MLP网络了,相信大家能够掌握基本原理,本文我们使用的是PyTorch定义网络层。
对于MLP的常用参数:
- in_channels:每个样本的输入维度,就是每个节点的特征维度
- out_channels:经过注意力机制后映射成的新的维度,就是经过GAT后每个节点的维度长度
- bias:训练一个偏置b
我们在实现时也是考虑这几个常见参数,对于PyG的内置MLP层的参数可能有点复杂,它可以传入一个列表进行多层特征映射,这里为了简单就是实现一个最基本的单层MLP
对于MLP的传播公式为:
H ′=HW+bH’=HW+b H′=HW+b
上式子中的 HHH 代表每个层的输入特征,也就是每个节点的特征矩阵,如果是第一层,则 H0= XH_0=XH0=X,对于 WWW 代表每个 MLP
层的可学习参数, bbb 代表偏置参数。
所以我们的任务无非就是获取这几个变量,然后进行传播计算即可
3.1.1 定义参数 WWW 和 bbb
这里为了方便实现,直接利用了 Linear()
函数,如果可以的话可以利用最原始的方法使用 w = nn.Parameter(torch.randn(in_channels, out_channels))
这种方式来定义参数 WWW
# 线性层self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', , bias=False)# 偏置if bias:self.bias = nn.Parameter(torch.Tensor(out_channels, 1))self.bias = pyg_nn.inits.glorot(self.bias)else:self.register_parameter('bias', None)
3.1.2 定义传播函数
对于MLP来说,就是一个简单的特征映射,实现一个简单的矩阵乘法而已,所以实现起来较为容易,直接调用定义好的线性层即可,最终加上偏置。
def forward(self, x):# 1.特征映射out = self.linear(x)# 2.添加偏置if self.bias != None:out += self.biasreturn out
3.1.3 MLP层
接下来就可以定义MLP层了,该层实现了1个函数,分别是forward()
forward()
:这个函数定义模型的传播过程,也就是上面公式的 HWHW HW,如果设置了偏置在加上偏置返回即可
# 2.定义MLP层class MLP(nn.Module):def __init__(self, in_channels, out_channels, bias=True):super(MLP, self).__init__()self.in_channels = in_channels # 输入图节点的特征数self.out_channels = out_channels # 输出图节点的特征数# 线性层self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', bias=False)# 偏置if bias:self.bias = nn.Parameter(torch.Tensor(out_channels, 1))self.bias = pyg_nn.inits.glorot(self.bias)else:self.register_parameter('bias', None)def forward(self, x):# 1.特征映射out = self.linear(x)# 2.添加偏置if self.bias != None:out += self.biasreturn out
对于我们实现这个网络的实现效率上来讲比PyG框架内置的 MLP
层稍差一点,因为我们是按照公式来一步一步利用矩阵计算得到,没有对矩阵计算以及算法进行优化,不然初学者可能看不太懂,不利于理解MLP公式的传播过程,有能力的小伙伴可以看下官方源码学习一下。
3.2 定义MLP网络
上面我们已经实现好了 MLP
的网络层,之后就可以调用这个层来搭建 MLP
网络。
# 3.定义MLP网络class Model(nn.Module):def __init__(self, num_node_features, num_classes):super(Model, self).__init__()self.lin_1 = MLP(num_node_features, 16)self.lin_2 = MLP(16, num_classes)def forward(self, data):x = data.xx = self.lin_1(x)x = F.relu(x)x = F.dropout(x, training=self.training)x = self.lin_2(x)return F.log_softmax(x, dim=1)
上面网络我们定义了两个 MLP
层,第一层的参数的输入维度就是初始每个节点的特征维度,输出维度是16。
第二个层的输入维度为16,输出维度为分类个数,因为我们需要对每个节点进行分类,最终加上softmax操作。
四、定义模型
下面就是定义了一些模型需要的参数,像学习率、迭代次数这些超参数,然后是模型的定义以及优化器及损失函数的定义,和pytorch定义网络是一样的。
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 10 # 学习轮数lr = 0.003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 3.定义模型model = Model(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数
五、模型训练
模型训练部分也是和pytorch定义网络一样,因为都是需要经过前向传播、反向传播这些过程,对于损失、精度这些指标可以自己添加。
# 训练模式model.train()for epoch in range(epochs):optimizer.zero_grad()pred = model(data)loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度loss.backward()optimizer.step()if epoch % 20 == 0:print("【EPOCH: 】%s" % str(epoch + 1))print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')
六、模型验证
下面就是模型验证阶段,在训练时我们是只使用了训练集,测试的时候我们使用的是测试集,注意这和传统网络测试不太一样,在图像分类一些经典任务中,我们是把数据集分成了两份,分别是训练集、测试集,但是在Cora这个数据集中并没有这样,它区分训练集还是测试集使用的是掩码机制,就是定义了一个和节点长度相同纬度的数组,该数组的每个位置为True或者False,标记着是否使用该节点的数据进行训练。
# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('TestAccuracy: {:.4f}'.format(acc_test), 'TestLoss: {:.4f}'.format(loss_test))
七、结果
【EPOCH: 】1训练损失为:1.9460 训练精度为:0.2071【EPOCH: 】21训练损失为:1.8583 训练精度为:0.2714【EPOCH: 】41训练损失为:1.7751 训练精度为:0.3643【EPOCH: 】61训练损失为:1.7049 训练精度为:0.4357【EPOCH: 】81训练损失为:1.5710 训练精度为:0.5929【EPOCH: 】101训练损失为:1.4686 训练精度为:0.6214【EPOCH: 】121训练损失为:1.3101 训练精度为:0.7286【EPOCH: 】141训练损失为:1.2317 训练精度为:0.7143【EPOCH: 】161训练损失为:1.2142 训练精度为:0.7571【EPOCH: 】181训练损失为:1.0434 训练精度为:0.8214【Finished Training!】>>>Train Accuracy: 0.9929 Train Loss: 0.8560>>>TestAccuracy: 0.3910 TestLoss: 1.7350
训练集 | 测试集 | |
---|---|---|
Accuracy | 0.9929 | 0.3910 |
Loss | 0.8560 | 1.7350 |
完整代码
import torchimport torch.nn as nnimport torch.nn.functional as Ffrom torch_geometric.utils import scatterfrom torch_geometric.datasets import Planetoidimport torch_geometric.nn as pyg_nn# 1.加载Cora数据集dataset = Planetoid(root='../data/Cora', name='Cora')# 2.定义MLP层class MLP(nn.Module):def __init__(self, in_channels, out_channels, bias=True):super(MLP, self).__init__()self.in_channels = in_channels # 输入图节点的特征数self.out_channels = out_channels # 输出图节点的特征数# 线性层self.linear = pyg_nn.dense.linear.Linear(in_channels, out_channels, weight_initializer='glorot', bias=False)# 偏置if bias:self.bias = nn.Parameter(torch.Tensor(out_channels, 1))self.bias = pyg_nn.inits.glorot(self.bias)else:self.register_parameter('bias', None)def forward(self, x):# 1.特征映射out = self.linear(x)# 2.添加偏置if self.bias != None:out += self.biasreturn out# 3.定义MLP网络class Model(nn.Module):def __init__(self, num_node_features, num_classes):super(Model, self).__init__()self.lin_1 = MLP(num_node_features, 16)self.lin_2 = MLP(16, num_classes)def forward(self, data):x = data.xx = self.lin_1(x)x = F.relu(x)x = F.dropout(x, training=self.training)x = self.lin_2(x)return F.log_softmax(x, dim=1)device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') # 设备epochs = 200 # 学习轮数lr = 0.0003 # 学习率num_node_features = dataset.num_node_features # 每个节点的特征数num_classes = dataset.num_classes # 每个节点的类别数data = dataset[0].to(device) # Cora的一张图# 4.定义模型model = Model(num_node_features, num_classes).to(device)optimizer = torch.optim.Adam(model.parameters(), lr=lr) # 优化器loss_function = nn.NLLLoss() # 损失函数# 训练模式model.train()for epoch in range(epochs):optimizer.zero_grad()pred = model(data)loss = loss_function(pred[data.train_mask], data.y[data.train_mask]) # 损失correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item() # epoch正确分类数目acc_train = correct_count_train / data.train_mask.sum().item() # epoch训练精度loss.backward()optimizer.step()if epoch % 20 == 0:print("【EPOCH: 】%s" % str(epoch + 1))print('训练损失为:{:.4f}'.format(loss.item()), '训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')# 模型验证model.eval()pred = model(data)# 训练集(使用了掩码)correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()acc_train = correct_count_train / data.train_mask.sum().item()loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()acc_test = correct_count_test / data.test_mask.sum().item()loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train), 'Train Loss: {:.4f}'.format(loss_train))print('TestAccuracy: {:.4f}'.format(acc_test), 'TestLoss: {:.4f}'.format(loss_test))