4.机械进修的办法

模式辨认=机械进修。两者的重要差别在于前者是大年夜工业界成长起来的概念，后者则重要源自计算机学科。在有名的《Pattern Recognition And Machine Learning》这本书中，Christopher M. Bishop在开首是如许说的“模式辨认源自工业界，而机械进修来自于计算机学科。不过，它们中的晃荡可以被视为同一个范畴的两个方面，同时在以前的10年间，它们都有了长足的成长”。

聚类算法中最典范的代表就是K-Means算法。

经由过程上节的介绍我们知晓了机械进修的大年夜致范围，那么机械进修琅绫擎毕竟有若干经典的算法呢?在这个部分我会扼要介绍一下机械进修中的经典代表办法。这部分介绍的重点是这些办法内涵的思惟，数学与实践细节不会在这评论辩论。

(1)、回归算法

在大年夜部分机械进修课程中，回归算法都是介绍的第一个算法。原因有两个：一.回归算法比较简单，介绍它可以让人腻滑地大年夜统计学迁徙到机械进修中。二.回归算法是后面若干强大年夜算法的基石，如不雅不睬解回归算法，无法进修那些强大年夜的算法。回归算法有两个重要的子类：即线性回归和逻辑回归。

线性回归就是我们前面说过的房价求解问题。若何拟合出一条直线最佳匹配我所有的数据?一般应用“最小二乘法”来求解。“最小二乘法”的思惟是如许的，假设我们拟合出的直线代表数据的┞锋实值，而不雅测到的数据代表拥有误差的值。为了尽可能减小误差的影响，须请求解一条直线使所有误差的平方和最小。最小二乘法将最优问题转化为求函数极值问题。函数极值袈溱数学上我们一般会采取求导数为0的办法。但这种做法并不合适计算机，可能求解不出来，也可能计算量太大年夜。

计算机科学界专门有一个学科叫“数值计算”，专门用来晋升计算机进行各类计算时的精确性和效力问题。例如，有名的“梯度降低”以及“牛顿法”就是数值计算中的经典算法，也异常合适来处理求解函数极值的问题。梯度降低法是解决回归模型中最简单且有效的办法之一。大年夜严格意义上来说，因为后文中的神经收集和推荐算法中都有线性回归的因子，是以梯度降低法在后面的算法实现中也有应用。

逻辑回归是一种与线性回归异常类似的算法，然则，大年夜本质上讲，线型回归处理的问题类型与逻辑回归不一致。线性回归处理的是数值问题，也就是最后猜测出的结不雅是数字，例如房价。而逻辑回归属于分类算法，也就是说，逻辑回归猜测结不雅是离散的分类，例如断定这封邮件是否是垃圾邮件，以及用户是否会点击此告白等等。

实现方面的话，逻辑回归只是对对线性回归的计算结不雅加上了一个Sigmoid函数，将数值结不雅转化为了0到1之间的概率(Sigmoid函数的图像一般来说并不直不雅，你只须要懂得对数值袈浣大年夜，函数越切近亲近1，数值袈浣小，函数越切近亲近0)，接着我们根据这个概率可以做猜测，例如概率大年夜于0.5，则这封邮件就是垃圾邮件，或者肿瘤是否是恶性的等等。大年夜直不雅上来说，逻辑回归是画出了一条分类线，见下图。

图7 逻辑回归的直不雅解释

假设我们有一组肿瘤患者的数据，这些患者的肿瘤中有些是良性的(图中的蓝色点)，有些是恶性的(图中的红色点)。这里肿瘤的红蓝色可以被称作数据的“标签”。同时每个数据包含两个“特点”：患者的年纪与肿瘤的大年夜小。我们将这两个特点与标签映射到这个二维空间上，形成了我上图的数据。

当我有一个绿色的点时，我该断定这个肿瘤是恶性的┞氛样良性的呢?根据红蓝点我们练习出了一个逻辑回归模型，也就是图中的分类线。这时，根据绿点涌如今分类线的左侧，是以我们断定它的标签应当是红色，也就是说属于恶性肿瘤。

逻辑回归算法划出的分类线根本都是线性的(也有划出非线性分类线的逻辑回归，不过那样的模型在处理数据量较大年夜的时刻效力会很低)，这意味着当两类之间的界线不是线性时，逻辑回归的表达才能就不足。下面的两个算法是机械进修界最强大年夜且重要的算法，都可以拟合出非线性的分类线。

(2)、神经收集

神经收集的出生来源竽暌冠对大年夜脑工作机理的研究。早期生物界学者们应用神经收集啻校仿大年夜脑。机械进修的学者们应用神经收集进行机械进修的实验，发明在视觉与语音的辨认上效不雅都相当好。在BP算法(加快神经收集练习过程的数值算法)出生今后，神经收集的成长进入了一个高潮。BP算法的创造人之一是前面介绍的机械进修大年夜牛Geoffrey Hinton(图1中的中心┞愤)。

具体说来，神经收集的进修机理是什么?简单来说，就是分化与整合。在有名的Hubel-Wiesel实验中，学者们研究猫的视觉分析机理是如许的。

图8 Hubel-Wiesel实验与大年夜脑视觉机理

比方说，一个正方形，分化为四个折线进入视觉处理的下一层中。四个神经元分别处理一个折线。每个折线再持续被分化为两条直线，每条直线再被分化为诟谇两个面。于是，一个复杂的图像变成了大年夜量的细节进入神经元，神经元处理今后再进行整合，最后得出了看到的是正方形的结论。这就是大年夜脑视觉识其余机理，也是神经收集工作的机理。

让我们看一个简单的神经收集的逻辑架构。在这个收集中，分成输入层，隐蔽层，和输出层。输入层负责接收旌旗灯号，隐蔽层负责对数据的分化与处理，最后的结不雅被整合到输出层。每层中的一个圆代表一个处理单位，可以认为是模仿了一个神经元，若干个处理单位构成了一个层，若干个层再构成了一个收集，也就是"神经收集"。

　　推荐阅读

　　John McAfee观点：人工智能是否会毁灭人类？

2017 年 3 月 9 日，黑客地下技巧专家兼作家 ZT，即将出版一本中篇小说：建筑师启发录。他的跟随者集合在美国田纳西州首府纳什维尔的一家放弃酒吧的地下室中拜读这本小说。恰逢第 3 届年>>>详细阅读

本文标题：从机器学习谈起

地址：http://www.17bianji.com/lsqh/34959.html

 1/2    1