你可能会认为奇怪,为什愦我们要将占位符shape定义为二维列表[None,NUM_INPUTS]和[None,NUM_OUTPUTS],第一个维度都是”None”?大年夜整体来看,神经收集有点像我们每次输入一个值,练习它生成一个特定输出值。但更有效力的方法是,一次供给多个输入\输出对(pair),这就是 batch 。膳绫擎shape中的第一维,是每个 batch 中有几组输入/输出对。创建一个 batch 之前我们并不知道琅绫擎有几组。实际上,后续我们将应用同一个图来进行练习、测试以及实际应用,所以 batch 的大年夜小不会每次都雷同。是以,我们将第一维的大年夜小设置为 Python 占位符对象 ”None“。

接下来,我们创建神经收集图的第一层:将权重定义为W_fc1,阈值(或误差)定义为b_fc1,隐层定义为h_fc1。这里”fc”意为“完全连接(fully connected)”的意思,因为权重把每一个输入神经元和每一个隐蔽神经元连接起来。
tf.truncated_normal 导致了一系列操作和张量,将会把所有权重赋值为标准化的随机数字。
Variable 的操作会给出初始化的值,这里是随机数字,在后面可以多次引用。一旦练习完,也可以很便利的精力经收集保存至文件中。
你可以看到我们用 matmul 操作来履行矩阵乘法的地位。我们插入一个 add 操作来参加误差权重(bias weights)。个中 relu 运算履行的就是“激活函数”(activation function)。矩阵乘法和加法都是线性运算。神经收集用线性运算能做的事异常少。激活方程供给了一些非线性。这里的relu激活函数,就是将所有小于0的值设置为0,其余值不变。不管你信不信,这为神经收集可以或许进修的器械打开了一扇全新的大年夜门。

细心看下前面的代码,会发明似乎有些反复,我们插入了两次sigmoid。实际是我们创建了两次不合的、并行的输出。个中cross_entropy张量将被用来练习神经收集。而 results 张量则是后续用来履行练习过的神经收集,不管它被练习出来作何目标。这是今朝我能想到的最好的办法。
神经收集第二层中的权重和阈值与第一层设置的一样,只是输出层不合。我们再次进行矩阵相乘,这一回乘的是权重和隐层,随后参加误差权重(bias weights),激活函数被留到下一组代码。
在TensorFlow中,这些列表(lists)被称为张量(tensors)。矩阵相乘被称为操作(operation,也翻译作计算节点或运算),即法度榜样员常说的op,浏览TensorFlow官方文件时会经常碰到。进一步讲,神经收集就是一堆张量、以及操作张量的 op 的集合,它们合营构成了神经收集图(graph)。

与膳绫擎的relu类似,Sigmoid是另一个激活函数,也长短线性的。这里我应用sigmoid函数,必定程度上是因为它能使最终输出值为一个0和1之间,对于二进制计数器而言是一个幻想的选择。在我们的例子中,为了表示二进制111,所有的输出神经元都可以有一个很大年夜的值。这和图像分类不合,后者会欲望仅仅用一个输出单位来输出一个很大年夜的值。举个例子,比如一张图像里有长颈鹿,我们会欲望代表长颈鹿的输出单位输出相昔时夜的值。这种情况下,用softmax函数作为激活函数反倒更合适。

最后一件事就是练习(training)。也就是基于练习数据调剂所有的权重。记住,在这里我们仍然只是创建一个图。真正的“练习”产生在我们开端运行这个图的时刻。
运行过程中供选择的优化器很多,这里我拔取了 tf.train.RMSPropOptimizer。因为就像sigmoid一样,它比较合适所有输出值都可能较大年夜的情况。而针对分类的情况,例如图像分类,用tf.train.GradientDescentOptimizer效不雅可能更好。
练习和应用二进制计数器
在完成创建图之后,就可以开端练习了。

起首,要预备一些练习数据:包含输入变量 inputvals 和目标变量 targetvals 。个中 inputvals 包含输入值,后者的每一个都有对应的 targetvals 目标值。例如,inputvals[0]即[0, 0, 0] ,对应的输出或目标值为targetvals[0] ,也就是 [0, 0, 1] 。

do_training和save_trained都可以硬编码,每次都可以进行更改,或者应用敕令行参数进行设置。
推荐阅读
埃隆·马斯克的平生是在赓续创造和改变世比赛度过的。当他欲望创造一种全新的在线付出方法时,于是有了PayPal;当他欲望有一辆没有污染的汽车瓯,于是有了特斯拉;当他欲望有一天能殖>>>详细阅读
本文标题:TensorFlow上手要点都总结在这儿了,你还有理由偷懒吗?
地址:http://www.17bianji.com/lsqh/35060.html
1/2 1

网友点评
精彩导读
科技快报
品牌展示