pytorch使用Variable实现线性回归

本文实例为大家分享了pytorch使用Variable实现线性回归的具体代码,供大家参考,具体内容如下

一、手动计算梯度实现线性回归

#导入相关包

import torch as t

import matplotlib.pyplot as plt

#构造数据

def get_fake_data(batch_size = 8):

#设置随机种子数,这样每次生成的随机数都是一样的

t.manual_seed(10)

#产生随机数据:y = 2*x+3,加上了一些噪声

x = t.rand(batch_size,1) * 20

#randn生成期望为0方差为1的正态分布随机数

y = x * 2 + (1 + t.randn(batch_size,1)) * 3

return x,y

#查看生成数据的分布

x,y = get_fake_data()

plt.scatter(x.squeeze().numpy(),y.squeeze().numpy())

#线性回归

#随机初始化参数

w = t.rand(1,1)

b = t.zeros(1,1)

#学习率

lr = 0.001

for i in range(10000):

x,y = get_fake_data()

#forward:计算loss

y_pred = x.mm(w) + b.expand_as(y)

#均方误差作为损失函数

loss = 0.5 * (y_pred - y)**2

loss = loss.sum()

#backward:手动计算梯度

dloss = 1

dy_pred = dloss * (y_pred - y)

dw = x.t().mm(dy_pred)

db = dy_pred.sum()

#更新参数

w.sub_(lr * dw)

b.sub_(lr * db)

if i%1000 == 0:

#画图

plt.scatter(x.squeeze().numpy(),y.squeeze().numpy())

x1 = t.arange(0,20).float().view(-1,1)

y1 = x1.mm(w) + b.expand_as(x1)

plt.plot(x1.numpy(),y1.numpy()) #predicted

plt.show()

#plt.pause(0.5)

print(w.squeeze(),b.squeeze())

显示的最后一张图如下所示:

二、自动梯度 计算梯度实现线性回归

#导入相关包

import torch as t

from torch.autograd import Variable as V

import matplotlib.pyplot as plt

#构造数据

def get_fake_data(batch_size=8):

t.manual_seed(10) #设置随机数种子

x = t.rand(batch_size,1) * 20

y = 2 * x +(1 + t.randn(batch_size,1)) * 3

return x,y

#查看产生的x,y的分布是什么样的

x,y = get_fake_data()

plt.scatter(x.squeeze().numpy(),y.squeeze().numpy())

#线性回归

#初始化随机参数

w = V(t.rand(1,1),requires_grad=True)

b = V(t.rand(1,1),requires_grad=True)

lr = 0.001

for i in range(8000):

x,y = get_fake_data()

x,y = V(x),V(y)

y_pred = x * w + b

loss = 0.5 * (y_pred-y)**2

loss = loss.sum()

#自动计算梯度

loss.backward()

#更新参数

w.data.sub_(lr * w.grad.data)

b.data.sub_(lr * b.grad.data)

#梯度清零,不清零梯度会累加的

w.grad.data.zero_()

b.grad.data.zero_()

if i%1000==0:

#predicted

x = t.arange(0,20).float().view(-1,1)

y = x.mm(w.data) + b.data.expand_as(x)

plt.plot(x.numpy(),y.numpy())

#true data

x2,y2 = get_fake_data()

plt.scatter(x2.numpy(),y2.numpy())

plt.show()

print(w.data[0],b.data[0])

显示的最后一张图如下所示:

用autograd实现的线性回归最大的不同点就在于利用autograd不需要手动计算梯度,可以自动微分。这一点不单是在深度在学习中,在许多机器学习的问题中都很有用。另外,需要注意的是每次反向传播之前要记得先把梯度清零,因为autograd求得的梯度是自动累加的。

以上是 pytorch使用Variable实现线性回归 的全部内容, 来源链接: utcz.com/z/356918.html

回到顶部