图9 神经收集的逻辑架构

在神经收集中，每个处理单位事实上就是一个逻辑回归模型，逻辑回归模型接收上层的输入，把模型的猜测结不雅作为输出传输到下一?层次。经由过程如许的过程，神经收集可以完成异常复杂的非线性分类。

下图会演示神经统??图像辨认范畴的一个有名应用，这个法度榜样叫做LeNet，是一个基于多个隐层构建的神经收集。经由过程LeNet可以辨认多种手写数字，并且达到很高的辨认精度与拥有较好的鲁棒性。

图10 LeNet的效不雅展示

右下方的方形中显示的是输入计算机的图像，方形上方的红色字样“answer”后面显示的是计算机的输出。左边的三条竖直的图像列显示的是神经收集中三个隐蔽层的输出，可以看出，跟着层次的赓续深刻，越深的层次处理的细节越低，例如层3根本处理的都已经是线的细节了。LeNet的创造人就是前文介绍过的机械进修的大年夜牛Yann LeCun(图1右者)。

进入90年代，神经收集的成长进入了一个瓶颈期。其重要原因是尽管有BP算法的加快，神经收集的练习过程仍然很艰苦。是以90年代后期支撑向量机(SVM)算法代替了神经收集的地位。

(3)、SVM(支撑向量机)

支撑向量机算法是出生于统计进修界，同时在机械进修界大年夜放光彩的经典算法。

支撑向量机算法大年夜某种意义上来说是逻辑回归算法的强化：通错误与逻辑回归算法更严格的优化前提，支撑向量机算法可以获得比逻辑回归更好的分类界线。然则如不雅没有某类函数技巧，则支撑向量机算法最多算是一种更好的线性分类技巧。

然则，经由过程跟高斯“核”的结合，支撑向量机可以表达出异常复杂的分类界线，大年夜而杀青很好的的分类效不雅。“核”事实上就是一种特别的函数，最典范的特点就是可以将低维的空间映射到高维的空间。

例如下图所示：

图11 支撑向量机图例

我们如安在二维平面划搀扶一个圆形的分类界线?在二维平面可能会很艰苦，然则经由过程“核”可以将二维空间映射到三维空间，然后应用一个线性平面就可以杀青类似效不雅。也就是说，二维平面划搀扶的非线性分类界线可以等价于三维平面的线性分类界线。于是，我们可以经由过程在三维空间中进内行单的线性划分就可以达到在二维平面中的非线性划分效不雅。

图12 三维空间的切割

支撑向量机是一种数学成分很浓的机械进修算法(相对的，神经统??有生物科学成分)。在算法的核心步调中，有一步证实，即将数据大年夜低维映射到高维不会带来最后计算复杂性的晋升。于是，经由过程支撑向量机算法，既可以保持枷⒚效力，又可以获得异常好的分类效不雅。是以支撑向量机在90年代后期一向占据着机械进修中最核心的地位，根本代替了神经收集算法。直到如今神经收集借着深度进修从新鼓起，两者之间才又产生了奥妙的均衡改变。

(4)、聚类算法

前面的算法中的一个明显特点就是我的练习数据中包含了标签，练习出的模许可以对其他未知数据猜测标签。鄙人面的算法中，练习数据都是不含标签的，而算法的目标则是经由过程练习，推想出这些数据的标签。这类算法有一个统称，即无监督算法(前面有标签的数据的算轨则是有监督算法)。无监督算法中最典范的代表就是聚类算法。

让我们照样拿一个二维的数据来说，某一个数据包含两个特点。我欲望经由过程聚类算法，给他们中不合的种类打上标签，我该怎么做呢?简单来说，聚类算法就是计算种群中的距离，根据距离的远近将数据划分为多个族群。

降维算法也是一种无监督进修算法，其重要特点是将数据大年夜高维降低到低维层次。在这里，维度其实表示的是数据的特点量的大年夜小，例如，房价包含房子的长、宽、面积与房间数量四个特点，也就是维度为4维的数据。可以看出来，长与宽事实上与面积表示的信息重叠了，例如面积=长 × 宽。经由过程降维算法我们就可以去除冗余信息，将特点削减为面积与房间数量两个特点，即大年夜4维的数据紧缩到2维。于是我们将数据大年夜高维降低到低维，不仅利于表示，同时在计算上也能带来加快。

刚才说的降维过程中削减的维度属于肉眼可视的层次，同时紧缩也不会带来信息的损掉(因为信息冗余了)。如不雅肉眼弗成视，或者没有冗余的特点，降维算法也能工作，不过如许会带来一些信息的损掉。然则，降维算法可以大年夜数学上证实，大年夜高维紧缩到的低维中最大年夜程度地保存了数据的信息。是以，应用降维算法仍然有很多的好处。

机械进修与大年夜数据的结合产生了巨大年夜的价值。基于机械进修技巧的成长，数据可以或许“猜测”。对仁攀类而言，积聚的经验越丰富，经历也广泛，对将来的断定越精确。例如常说的“经验丰富”的人比“初出茅庐”的小伙子更有工作上的优势，就在于经验丰富的人获得的规律比他人更精确。而在机械进修范畴，根据有名的一个实验，有效的证实了机械进修界一个理论：即机械进修模型的数据越多，机械进修的猜测的效力就越好。见下图：  

　　推荐阅读

　　John McAfee观点：人工智能是否会毁灭人类？

2017 年 3 月 9 日，黑客地下技巧专家兼作家 ZT，即将出版一本中篇小说：建筑师启发录。他的跟随者集合在美国田纳西州首府纳什维尔的一家放弃酒吧的地下室中拜读这本小说。恰逢第 3 届年>>>详细阅读

本文标题：从机器学习谈起

地址：http://www.17bianji.com/lsqh/34959.html

 1/2    1