基于Python开发Tensorflow(七)之梯度下降解决线性回归

it2022-05-31  74

Operations(操作)

 

操作类别操作举例基本操作split,rank,reshape,random_shuffle,slice,concat,...逐元素的数学操作add,subtract,multiply,div,greater,less,equal,exp,log,...矩阵操作eye,matmul,matrix_inverse,matrix_determinant,...状态型操作Variable,assign,assign_add,...神经网络操作sigmoid,relu,softmax,max_pool,dropout,conv2d,dynamic_rnn,...保存/还原操作train.saver.save,train.saver.restore模型训练操作train.GradientDescentOptimizer,train.AdamOptimizer,...

 

一些等价的操作

 

操作等价操作tf.add(a, b)a+btf.subtract(a, b)a-btf.multiply(a, b)a*btf.div(a, b)a/btf.mod(a,b)a%btf.square(a)a*a

 

代码讲解

# -*- coding: UTF-8 -*- """ 梯度下降的优化方法来快速解决线性回归问题 """ import numpy as np import matplotlib.pyplot as plt import tensorflow as tf #构建数据 points_num = 100 vectors = [] #用 Numpy 的正态随机分布函数生成 100 个点 #这些点的 (x, y) 坐标值对应线性方程 y = 0.1 * x + 0.2 #权重 (Weight) 0.1, 偏差 (Bias) 0.2 for i in xrange(points_num): x1 = np.random.normal(0.0, 0.66) ''' numpy.random.normal(loc=0.0, scale=1.0, size=None)这函数为高斯分布 np.random.randn(size)为标准正态分布(μ=0,σ=1) loc:float 此概率分布的均值(对应着整个分布的中心centre) scale:float 此概率分布的标准差(对应于分布的宽度,scale越大越矮胖,scale越小,越瘦高) size:int or tuple of ints 输出的shape,默认为None,只输出一个值,如果是2的话就是两个,0的话输出空数组和数组深度 ''' y1 = 0.1 * x1 + 0.2 + np.random.normal(0.0, 0.04) vectors.append([x1, y1]) x_data = [v[0] for v in vectors] #真实的点的 x 的坐标 y_data = [v[1] for v in vectors] #真实的点的 y 的坐标 #图像 1: 展示100个随机数据点 plt.plot(x_data, y_data, "*", label="Original data") #红色星形的点 plt.title("Linear Regression using Gradient Descent") plt.legend() plt.show() #构建线性回归模型 W = tf.Variable(tf.random_uniform([1], -1.0, 1.0)) #初始化 Weight, ''' tf.random_uniform((6, 6), minval=low,maxval=high,dtype=tf.float32))) 返回6*6的矩阵,产生于low和high之间,产生的值是均匀分布的。 ''' b = tf.Variable(tf.zeros([1])) #初始化 Bias,长度是一个 y = W * x_data + b #模型计算出来的 y #定义损失函数 loss function 或 cost function(代价函数) #对 Tensor 的所有维度计算 ( y - y_data) ^ 2 之和 / N loss = tf.reduce_mean(tf.square(y-y_data)) #用梯度下降的优化器来优化我们的 loss function optimizer = tf.train.GradientDescentOptimizer(0.5) #设置学习率 0.5,,每次 train = optimizer.minimize(loss) #不断寻找训练出最小损失 # 创建会话 sess = tf.Session() #初始化数据流图中的所有变量 init = tf.global_variables_initializer() ''' global_variables_initializer 返回一个用来初始化 计算图中 所有global variable的 op sess.run(tf.global_variables_initializer()) 就是 run了 所有global Variable 的 assign op ''' sess.run(init) #训练 20 步 for step in xrange(20): # 优化每一步 sess.run(train) ''' 每一次训练的结果都显示出来,神经网络每一次的学习率是0.5 ''' #打印出每一步的损失,权重和偏差 print ("Step=%d, Loss=%f, [Weight=%f Bias=%f]") % (step, sess.run(loss), sess.run(W), sess.run(b)) #图像 2 : 绘制所有的点并且绘制出最佳拟合的直线 plt.plot(x_data, y_data, "r*", label="Original data") #红色星形的点 plt.title("Linear Regression using Gradient Descent") plt.plot(x_data, sess.run(W) * x_data + sess.run(b), label="Fitted line") #拟合的线 plt.legend() plt.xlabel('x') plt.ylabel('y') plt.show() #关闭会话 sess.close()

运行效果

 


最新回复(0)