线性回归都是包括以下几个步骤：定义模型、选择损失函数、选择优化函数、 训练数据、测试
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
|
import torchimport matplotlib.pyplot as plt# 构建数据集x_data= torch.tensor([[1.0],[2.0],[3.0],[4.0],[5.0],[6.0]])y_data= torch.tensor([[2.0],[4.0],[6.0],[8.0],[10.0],[12.0]])#定义模型class linearmodel(torch.nn.module): def __init__(self): super(linearmodel, self).__init__() self.linear= torch.nn.linear(1,1) #表示输入输出都只有一层,相当于前向传播中的函数模型，因为我们一般都不知道函数是什么形式的 def forward(self, x): y_pred= self.linear(x) return y_predmodel= linearmodel()# 使用均方误差作为损失函数criterion= torch.nn.mseloss(size_average= false)#使用梯度下降作为优化sgd# 从下面几种优化器的生成结果图像可以看出，sgd和asgd效果最好，因为他们的图像收敛速度最快optimizer= torch.optim.sgd(model.parameters(),lr=0.01)# asgd# optimizer= torch.optim.asgd(model.parameters(),lr=0.01)# optimizer= torch.optim.adagrad(model.parameters(), lr= 0.01)# optimizer= torch.optim.rmsprop(model.parameters(), lr= 0.01)# optimizer= torch.optim.adamax(model.parameters(),lr= 0.01)# 训练epoch_list=[]loss_list=[]for epoch in range(100): y_pred= model(x_data) loss= criterion(y_pred, y_data) epoch_list.append(epoch) loss_list.append(loss.item()) print(epoch, loss.item()) optimizer.zero_grad() #梯度归零 loss.backward() #反向传播 optimizer.step() #更新参数 print("w= ", model.linear.weight.item())print("b= ",model.linear.bias.item()) x_test= torch.tensor([[7.0]])y_test= model(x_test)print("y_pred= ",y_test.data) plt.plot(epoch_list, loss_list)plt.xlabel("epoch")plt.ylabel("loss_val")plt.show() |
使用sgd优化器图像：
使用asgd优化器图像：
使用adagrad优化器图像：
使用adamax优化器图像：
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持服务器之家。
原文链接：https://blog.csdn.net/qq_41521512/article/details/106646318
