不雅然，它将结不雅晋升⾄96.59%，⾄少在这种情况下，使⽤更多的隐蔽神经元赞助我们获得了更好的结不雅。

当然，为了获得这些精确性，我不得纰谬练习的迭代期数量(epoch)，⼩批量数据⼤⼩(minbatch)和进修速度η做特其余选择,正如我上⾯所提到的，这些在我们的神经⽹络中被称为超参数，以差别于经由过程我们的进修算法所学到的参数(权重和偏置),如不雅我们选择了糟糕的超参数，我们会获得较差的结不雅。

假如我们选定进修速度为η= 0.001： 

结不雅则不太令人鼓舞了：

然⽽，你可以看到⽹络的机能跟着时光的推移慢慢地变好了，这注解应当增⼤进修速度，例如η= 0.01，如不雅我们那样做了，我们会获得更好的结不雅，这注解我们应当再次增长进修速度。(如不雅改变可以或许改良⼀些工作，试着做更多!)如不雅我们如许做⼏次，我们最终会获得⼀个像η=1.0 的进修速度(或者调剂到3.0)，这跟我们之前的实验很接近。是以即使我们最初选择了糟糕的超参数，我们⾄少获得了⾜够的信息来赞助我们改良对于超参数的选择。

平日，调试⼀个神经⽹络是具有挑衅性的，尤其是当初始的超参数的选择产⽣的结不雅还不如随机噪点的时刻。假如我们试⽤之前成功的具有30 个隐蔽神经元的⽹络构造，然则进修速度改为η= 100，在这点上，我们实际⾛的太远，进修速度太⾼了： 

我们可能不仅关⼼进修速度，还要关⼼我们的神经⽹络中的其它每⼀个部分，我们可能想知道是否⽤了让⽹络很难进修的初始权重和偏置?或者可能我们没有⾜够的练习数据来获得有意义的进修?或者我们没有进⾏⾜够的迭代期?或者可能对于具有这种构造的神经⽹络，进修辨认⼿写数字是弗成能的?可能进修速度太低?或者可能进修速度太⾼?当你第⼀次碰到问题，你不老是能有把握。

就像惯例编程那样，它是⼀⻔艺术，你须要进修调试的艺术来获得神经⽹络更好的结不雅，更通俗的是，我们须要启发式⽅法来选择好的超参数亲睦的构造，后面将评论辩论怎么样选择超参数。

2、迈向深度进修

这一节你将懂得神经收集是若何过渡到深度进修的。

固然我们的神经收集给出了令⼈印象深刻的表示，但如许的表示带有⼏分神秘，⽹络中的权重和偏置是被⾃动发明的，这意味着我们不克不及⽴即解释⽹络怎么做的、做了什么，我们可否找到⼀些办法来懂得我们的⽹络经由过程什么道理分类⼿写数字?并且，在知道了这些道理后，我们能做得更好吗?

为了让这些问题更具体，我们假设数⼗年河伯经⽹络激发了⼈工智能(AI)。到那个时刻，我们能明⽩这种智能⽹络的⼯作机制吗?或许，因为有着⾃动进修获得的权重和偏置，这些是我们⽆法懂得的，如许的神经⽹络对我们来说是不通明的。在⼈⼯智能的早期研究阶段，⼈们欲望在构建⼈⼯智能的努⼒过程中，也同时可以或许赞助我们懂得智能背后的机制，以及⼈类⼤脑的运转⽅式，但结不雅可能是我们既不克不及够懂得⼤脑的机制，也不克不及够懂得⼈⼯智能的机制。

为解决这些问题，让我们从新思虑⼀下我在本章开端时所给的⼈⼯神经元的解释，作为⼀种衡量证据的办法，假设我们要肯定⼀幅图像是否显⽰有⼈脸 ： 

我们可以用解决⼿写辨认问题的雷同⽅式来霸占这个问题 —— ⽹络的输⼊是图像中的像素，⽹络的输出是⼀个单个的神经元⽤于注解“是的，这是⼀张脸”或“不，这不是⼀张脸”，假设我们就采取了这个⽅法，但接下来我们先不去使⽤⼀个进修算法，⽽是去测验测验亲⼿设计⼀个⽹络，并为它选择合适的权重和偏置。我们要如何做呢?临时先忘掉落神经⽹络，我们受到启发的⼀个设法主意是将这个问题分化成⼦问题：图像的左上⻆有⼀个眼睛吗?右上⻆有⼀个眼睛吗?中心有⼀个⿐⼦吗?下⾯中心有⼀个嘴吗?上⾯有头发吗?诸如斯类，如不雅⼀些问题的答复是“是”，或者甚⾄仅仅是“可能是”，那么我们可以作出结论这个图像可能是⼀张脸，相反地，如不雅⼤多半这些问题的谜底是“不是”，那么这张图像可能不是⼀张脸。

这个设法主意注解了如不雅我们可以或许应用神经⽹络来解决这些⼦问题，那么我们也许可以经由过程将这些解决⼦问题的⽹络结合起来，构成⼀个⼈脸检测的神经⽹络，下图是⼀个可能的构造，个中的⽅框表⽰⼦⽹络，留意，这不是⼀个⼈脸检测问题的实际的解决⽅法，⽽是为了赞助我们构建起⽹络若何运转的直不雅感触感染。 

子收集也可以被持续分化，这看上去很合理，假设我们推敲这个问题：“左上⻆有⼀个眼睛吗?”这个问题可以被分化成这些⼦问题：“有⼀个眉⽑吗?”，“有睫⽑吗?”，“有虹膜吗?”等等，当然这些问题也应当包含关于地位的信息 —— 诸如“在左上⻆有眉⽑，上⾯有虹膜吗?”——然则让我们先坚削发单，答复问题“左上⻆有⼀个眼睛吗?”的⽹络可以或许被分化成： 

　　推荐阅读

　　用Async函数简化异步代码

就像你看到的，这个函数返回一个 promises，将会赋值给 val，猜一下生成器和异步函数示例做了什么!无论你在这个函数返回了什么，你其实是暗地里返回一个 promise 解析到那个值。如不雅你>>>详细阅读

本文标题：理解深度学习的钥匙–参数篇

地址：http://www.17bianji.com/lsqh/34849.html

 1/2    1