这个例⼦说清楚明了⼀个感知器若何能衡量不合的根据来决定计划，这看上去也可以⼤致解释⼀个感知器⽹络可以或许做出奥妙的决定：
在这个⽹络中，第⼀列感知器—— 我们称其为第⼀层感知器—— 经由过程衡量输⼊根据做出三个⾮常简单的决定。那第⼆层的感知器呢?每⼀个都在衡量第⼀层的决定计划结不雅并做出决定。以这种⽅式，⼀个第⼆层中的感知器可以⽐第⼀层中的做出更复杂和抽象的决定计划。在第三层中的感知器甚⾄能进⾏更复杂的决定计划。以这种⽅式，⼀个独裁的感知器⽹络可以大年夜事复杂奇妙的决定计划。
假设我们有⼀个感知器⽹络，想要⽤它来解决⼀些问题。例如，⽹络的输⼊可所以⼀幅⼿写数字的扫描图像。我们想要⽹络能进修权重和偏置，如许⽹络的输出能精确分类这些数字。为了看清进修是如何⼯作的，假设我们把⽹络中的权重(或者偏置)做些微⼩的修改，就像我们⻢上会看到的，这⼀属性会绕揭捉?习变得可能，这⾥扼要⽰意我们想要的。
如不雅对权重(或者偏置)的微⼩的修改┞锋的可以或许仅仅激发誓出的微⼩变更，那我们可以利⽤这⼀事实来修改权重和偏置，让我们的⽹络可以或许表示得像我们想要的那样。例如，假设⽹络缺点地把⼀个“9”的图像分类为“8”。我们可以或许计算出怎么对权重和偏置做些⼩的修改，如许⽹络可以或许接近于把图像分类为“9”。然后我们要反复这个⼯作，反复修改权重和偏置来产⽣更好的输出，这时⽹络就在进修。
问题在于当我们的⽹络包含感知器时这不会发⽣，实际上，⽹络中单个感知器上⼀个权重或偏置的微⼩修改有时刻会引起那个感知器的输出完全翻转，如0 变到1，那样的翻转可能接下来引起其余⽹络的⾏为以极其复杂的⽅式完全改变。是以，固然你的“9”可能被精确分类，⽹络在其它图像上的⾏为很可能以⼀些很难控制的⽅式被完全改变，这使得慢慢修改权重和偏置来让⽹络接近期望⾏为变得艰苦，也许有其它聪慧的⽅式来解决这个问题。然则这不是显⽽易⻅地能让⼀个感知器⽹络去进修。
我们⽤描述感知器的雷同⽅式来描述S 型神经元：
正如⼀个感知器，S 型神经元有多个输⼊，x1; x2; ……。然则这些输⼊可以取0 和1 中的随便率性值，⽽不仅仅是0 或1。例如，0:638 是⼀个S 型神经元的有效输⼊,同样，S 型神经元对每个输⼊有权重，w1;w2……，和⼀个总的偏置b。然则输出不是0 或1。相反，它如今是σ (w x+b)，这⾥σ被称为S 型函数，有时被称为逻辑函数，⽽这种新的神经元类型被称为逻辑神经元，定义为：
把它们放在⼀起来更清跋扈地解释，⼀个具有输⼊x1; x2;……，权重w1;w2; …..，和偏置b 的S型神经元的输出是：
σ(z)图形如下所示：
σ的腻滑意味着权重和偏置的微⼩变更，即Δwj 和Δb，会大年夜神经元产⽣⼀个微⼩的输出变更Δoutput。实际上，微积分告诉我们Δoutput 可以很好地近似表⽰为：
上⾯全部⽤偏导数的表达式看上去很复杂，实际上它的意思⾮常简单(这可是个好消息)：Δoutput 是⼀个反竽暌钩权重和偏置变更即Δwj 和Δb的线性函数。
Part 2
神经收集的架构
下面这个⽹络中最左边的称为输⼊层，个中的神经元称为输⼊神经元，最右边的，即输出层包含有输出神经元，在本例中，输出层只有⼀个神经元，中心层，既然这层中的神经元既不是输⼊也不是输出，则被称为隐蔽层。
假设我们测验测验肯定⼀张⼿写数字的图像上是否写的是“9”，很⾃然地，我们可以将图⽚像素的强度进⾏编码作为输⼊神经元来设计⽹络，如不雅图像是⼀个64 * 64 的灰度图像，那么我们会须要4096 = 64 * 64 个输⼊神经元，每个强度取0 和1 之间合适的值。输出层只须要包含⼀个神经元，当输出值⼩于0.5 时表⽰“输⼊图像不是⼀个9”，⼤于0.5 的值表⽰“输⼊图像是⼀个9”。
定义神经⽹络后，让我们回到⼿写辨认上来，我们将使⽤⼀个三层神经⽹络来辨认单个数字：
推荐阅读
《2016年度中国云办事及云存储市场分析申报》于近日宣布，经由过程对云办事及云存储市场全方位分析，揭示市场近况。数据显示，2016年，中国云办事市场范围达到516.6亿元。估计2017年，中国>>>详细阅读
本文标题：理解深度学习的钥匙 –启蒙篇
地址：http://www.17bianji.com/lsqh/34781.html
1/2 1
网友点评
精彩导读
科技快报
品牌展示