CTO练习营 | 12月3-5日，深圳，是时刻成为优良的技巧治理者了
如今，为了惹人深度进修，让我们来看看一个更具体的例子，这个例子涉及独裁感知器(MLP)。
在MLP中，“感知器”这个词可能有点让仁攀困惑，因为我们并不想只在我们的收集中应用线性神经元。应用MLP，我们可以进修复杂的函数来解决非线性问题。是以，我们的收集平日由连接输入和输出层的一个或多个“隐蔽”层构成。这些隐蔽的层平日有某种S型的激活函数(logs-s形或双曲正切等)。例如，在我们的收集中，一个逻辑回归单位，返回0-1范围内的持续值。一个简单的MLP看起来就像如许：
个中y是最终的类标签，我们返回的是基于输入x的猜测，“a”是我们激活的神经元，而“w”是权重系数。如今，如不雅我们向这个MLP添加多个隐蔽层，我们也会把收集称为“深度”。这种“深度”收集的问题在于，为这个收集进修“好”的权重变得越来越难。当我们开端练习我们的收集时，我们平日会将随机值赋值为初始权重，这与我们想要找到的“最优”解决筹划很不一样。在练习过程中，我们应用风行的反向传播算法(将其视为反向模式主动微分)来传播大年夜右到左的“缺点”，并计算每一个权重的偏导数，大年夜而向成本(或“缺点”)梯度的相反偏向迈进。如今，深度神经收集的问题是所谓的“消掉梯度”——我们添加的层越多，就越难“更新”我们的权重，因为旌旗灯号变得越来次日。因为我们的收集的权重在开端时可能异常糟糕(随机初始化)，是以几乎弗成能用反向传播来参数化一个具有“深度”的神经收集。
这就是深度进修发患咀用的处所。粗略地说，我们可以把深度进修看作是一种“聪慧”的技能或算法，可以赞助我们练习这种“深度”神经收集构造。有很多不合的神经收集构造，然则为了持续以MLP为例，让我来介绍卷积神经收集(CNN)的概念。我们可以把它看作是我们的MLP的“附加组件”，它可以赞助我们检测到我们的MLP“好”的输入。
在一懊机械进修的应用中，平日有一个重点放在特点工程部分;算法进修的模型只能是和输入数据一样好。当然，我们的数据集必须要有足够多的、具有辨别才能的信息，然而，当信息被吞没在无意义的特点中，机械进修算法的机能就会受到严重影响。深度进修的目标是大年夜混乱的数据中主动进修;这是一种算法，它为我们供给了具有意义的深层神经收集构造，使其可以或许更有效地进修。我们可以把深度进修看作是主动进修“特点工程”的算法，或者我们也可以简单地称它们为“特点探测器”，它可以赞助我们克服一系列挑衅，并促进神经收集的进修。
让我们在图像分类的背景下推敲一个卷积神经收集。在这里，我们应用所谓的“接收域”(将它们想象成“窗口”)，它们会经由我们的图像。然后，我们将这些“接收域”(例如5×5像素的大年夜小)和下一层的1个单位连接起来，这就是所谓的“特点图”。在这个映射之后，我们构建了一个所谓的卷积层。留意，我们的特点检测器根本上是互相复制的——它们共享雷同的权重。它的设法主意是，如不雅一个特点检测器在图像的某个部分很有效，它很可能在其他处所也有效，与此同时，它还许可用不合的方法表示图像的各个部分。
本质上，深度进修供给了一套技巧和算法，这些技巧和算法可以赞助我们对深层神经收集构造进行参数化——人工神经收集中有很多隐含层数和参数。深度进修背后的一个关键思惟是大年夜给定的数据集中提取高层次的特点。是以，深度进修的目标是克服单调乏味的特点工程义务的挑衅，并赞助将传统的神经收集进行参数化。
接下来，我们有一个“池”层，在这个层中，我们将我们的特点映射中的相邻特点削减为单个单位(例如，经由过程获取最大年夜特点，或者对其进行平均化)。我们在很多测试中都如许做，最终得出了我们的图像的几乎不不变的表示情势(确切的说法是“等变量”)。这是异常强大年夜的，因为无论它们位于什愦地位，我们都可以在图像中检测到对象。
本质上，CNN这个附加组件在我们的MLP中充当了特点提取器或过滤器。经由过程卷积层，我们可以大年夜图像中提取有效的特点，经由过程池层，我们可以使这些特点在缩放和转换方面有必定的不合。
【编辑推荐】
- 神经收集算法的优势与应用
- 一文详解机械范畴的LDA主题模型
- 2018年将会改变人工智能的5个大年夜数据趋势
- TensorFlow广度和深度进修的教程
- 做AI必须要知道的十种深度进修办法
推荐阅读
CTO练习营 | 12月3-5日，深圳，是时刻成为优良的技巧治理者了尽管对象存储技巧的光辉时代已经成为以前，然则这项技巧已经成熟，如今的对象存储体系构造异常合适于知足企业备份的需求。实际上，治理员可>>>详细阅读
本文标题：深度学习和普通机器学习之间有何区别？
地址：http://www.17bianji.com/lsqh/39435.html
1/2 1
网友点评
精彩导读
科技快报
品牌展示