媒介

回想起来，AndrewNg 在coursera上开设的机械进修课程受益匪浅，课程覆盖了机械进修的基本内容，深刻浅出，把很多概念解释得很到位。如今将其课件和内容进行总结和梳理，主如果因为课程确切异常好，再者也是对进修过程的一个回想总结，个中也会参加本人的一些思虑。如不雅有兴趣，最好是可以对课程进行体系的进修将对应的习题和小测都做一遍，收成会更大年夜。因为课程的代码不克不及公开，是以本文不会对实践部分进行多加阐述，如不雅有可能，本人会参加一些公开的实践样例。

Introduction

本部分重要对机械进修的根本概念以及相干的办法分类进行一个概要的介绍。进行的拓展重要在于总结和科普，没有进行具体具体的┞饭开，后续会进一步进行展开或总结。

1. 机械进修的定义

ArthurSamuel(1959).MachineLearning:Fieldof study that gives computers the ability to learn without being explicitly programmed.

在机械进修中，可以或许反竽暌钩汗青经验的模型有很多，如图2所示，能拟合数据的有两条曲线，那么若何大年夜浩瀚候选中选出好的模型是一个很重要的话题。我们欲望一个好的模型，不只在练习集(见过的数据)上具有很好的效不雅，我们还欲望其对未见过的数据也具有很好的猜测效不雅，即具有好的泛化才能。此处涉及到两个重要名词，即过拟合和欠拟合。欠拟合是手印型在所稀有据上(见过的和未见过的)数据上表示都很差，没有可以或许很好的抽象模型。过拟合是手印型在见过的数据上表示很好，但对未见过的数据上表示很差，也就是模型经由过程拟合极端的数据来获取好的效不雅，进修的模型太过于具体，以至于对未见过的数据没有猜测才能。我们平日会应用精确度来衡量猜测的结不雅的短长。包管猜测精度还不敷，一致前提下我们更偏向于简单的模型，这就是有名的奥卡姆剃刀原则(Occam’s Razor)，”An explanation of the data should be mad as simple as possible,but no simpler”。

TomMitchell(1998)Well-posedLearning Problem: A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance border="0" alt="" title="" />表示一类(非癌症患者)，表示一类(癌症患者)。有监督的进修过程是基于有类标的数据(平日称为练习集)将出一个分类面，平日称为假设h(x)=y，此处y=1(癌症患者)或y=0(非癌症患者)，将练习集划分成两类。当新数据到来时，根据进修的假设h(x)可以对患者是否患癌症作出猜测。

2.2.非监督进修

图1

回归问题，如图2所示，假设我们欲望对房子的价格进行猜测。图中我们已经采集了一系列样本，每个表示一个样本，我们欲望可以或许进修出房子大年夜小和价格的关系，h(x)=y，此处特点向量只有一个值，即房子的大年夜小，而目标值为房子的价格。可以看到，可以或许拟合样本的曲线不止一条(蓝色曲线和红色曲线)，这就涉及到断定哪个假设更好的问题，平日称为模型选择。

图2

非监督进修中，我们无法事先获取到样本的类标，即如图3所示，每个表示一个样本，很明显样本可以划分成两个蔟，这两个蔟之间相距很远，但蔟内各样本点之间很近。聚类长短监督进修的典范，而关键在于距离函数的定义，即若何衡量样本之间的邻近程度，一般我们认为距离邻近的两个样本点属于一个蔟。常用的聚类算法有k-mean，dbscan等。

这里稍微概括的介绍一下机械进修中的一些重要概念。

[1] 半监督进修

3.其他概念

图3

半监督进修介于监督进修和非监督进修之间。监督进修的练习集是打潦攀类标的，即我们事先知道样本中的邮件是否为垃圾邮件，基于这一经验来对模型进行练习;而非监督进修的练习集是不知道类标的，我们只能基于某种类似性或是构造特点将样本分成不合的蔟。实际生活中我们很难获取到大年夜量的标记数据，经由过程人工大年夜类标也是费时辛苦的，是以就有了半监督进修办法的提出，其核心思惟是，我们先经由过程少量的标记数据来练习模型，然后基于某种办法将未标记的数据也用上，对模型进行主动的进一步的优化。

[2] 主动进修

主动进修与半监督进修有点类似，半监督进修期望主动的应用未标记数据进行进修，而主动进修则可以算作是半主动的应用未标记的数据。其核心思惟是，应用少量的标记数据练习模型，基于当前模型测验测验对未标记的数据进行标记，如不雅模型对当前标记的结不雅把握不大年夜，则可以对人提议赞助请求，询问当前样例的类标，经由过程人的反馈对模型进行优化，而对于把握大年夜的结不雅则不二出询问。

　　推荐阅读

　　Log：被BigData遗忘的奠基者

Log是关系数据库对计算机行业的巨大年夜供献。在大年夜数据时代，Log更是基本技巧之一。然而在大年夜家热烈评论辩论GFS, NoSQL，甚至Paxos， LSM tree等词语的时刻，Log这个基本技巧以及>>>详细阅读

本文标题：机器学习从入门到精通

地址：http://www.17bianji.com/lsqh/35093.html

 1/2    1