损失函数——均方误差（Mean Squared Error，MSE）

均方误差（Mean Squared Error，MSE）：MSE是回归任务中常用的损失函数，它衡量模型预测值与实际值之间的平均平方误差。

具体来说，MSE的计算公式如下：

其中，n是样本数量，xi是第i个样本的真实值，yi是模型对第i个样本的预测值。

MSE的值越小，说明模型的预测值与真实值之间的差异越小，模型的性能越好。MSE可以被视为模型对预测值误差的平方的平均值，因此它对离群值（Outlier）比较敏感。如果样本中存在离群值，MSE可能会受到它们的影响而导致模型性能下降。

MSE广泛应用于线性回归和多元线性回归等任务中。在深度学习中，MSE也被用于衡量神经网络在回归任务中的性能，并作为损失函数进行优化。在使用MSE作为损失函数进行优化时，通常会采用梯度下降等优化算法来最小化MSE的值，从而提高模型的性能。

在PyTorch中，可以使用内置的MSE损失函数来计算均方误差。以下是使用PyTorch实现MSE损失函数的示例代码：

import torchimport torch.nn as nn# 创建真实值和预测值的张量y_true = torch.tensor([1, 2, 3, 4, 5], dtype=torch.float32)y_pred = torch.tensor([1.5, 2.5, 2.8, 3.8, 4.5], dtype=torch.float32)# 计算MSE损失函数criterion = nn.MSELoss()mse_loss = criterion(y_pred, y_true)print("MSE损失值:", mse_loss.item())

在上面的代码中，首先创建了真实值和预测值的张量，然后使用PyTorch内置的nn.MSELoss()函数创建了一个MSE损失函数的实例。最后，调用实例的forward()方法，传入预测值和真实值张量，即可计算出MSE损失值。

如果需要在训练模型时使用MSE作为损失函数进行优化，可以在训练循环中计算损失，并使用反向传播算法更新模型参数。以下是使用MSE作为损失函数进行模型训练的示例代码：

import torchimport torch.nn as nnimport torch.optim as optim# 定义模型class MyModel(nn.Module):def __init__(self):super(MyModel, self).__init__()self.linear = nn.Linear(1, 1)def forward(self, x):y_pred = self.linear(x)return y_pred# 创建模型和优化器model = MyModel()optimizer = optim.SGD(model.parameters(), lr=0.01)# 创建真实值和输入张量x = torch.tensor([1, 2, 3, 4, 5], dtype=torch.float32).unsqueeze(1)y_true = torch.tensor([2, 4, 6, 8, 10], dtype=torch.float32).unsqueeze(1)# 训练模型num_epochs = 100criterion = nn.MSELoss()for epoch in range(num_epochs):# 前向传播y_pred = model(x)# 计算损失loss = criterion(y_pred, y_true)# 反向传播optimizer.zero_grad()loss.backward()# 更新参数optimizer.step()print(f"Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item():.4f}")

在上面的代码中，首先定义了一个简单的线性模型和一个随机梯度下降（Stochastic Gradient Descent，SGD）优化器。然后创建了真实值和输入张量，并使用MSE损失函数对模型进行训练。在每个训练迭代中，首先进行前向传播，然后计算损失，并使用反向传播算法更新模型参数。