在很多机械进修义务中，人工神经收集尤其是近些年成长起来的深度进修收集，已经取得了十分注目标结不雅。然而，以前研究者往往精力经收集的内部行动算作黑盒来对待，神经收集到底进修到了什么并不懂得。近些年来，研究者们逐渐开端存眷这一问题，并经由过程懂得其内部行动来赞助优化模型。而这篇工作则是大年夜可视化的角度出发来对待这个问题。

畏敲?解这篇工作的内容，我们起首须要对神经收集有必定的懂得。神经元是神经收集中的最根本单位。一个神经元 (neuron) 接收若干个输入，计算它们的加权和，然后应用“激活”函数对这个和进行处理后，获得输出值。个中，这里的权重就是这个神经元待进修的参数。若干个神经元可以构成一个层 (layer)，同一层的神经元之间没有值的传递关系。而多个层可以依次分列起来，前一层中所有(或者部分)神经元的输出作为下一层各个神经元的输入。除了第一层的神经元不须要输入，而直接输出数据的某一分量;最后一层的神经元的输出不再作为其他神经元的输入，而直接用于响应的义务。图1就是如许一种典范的神经收集，它具有三层，第一层为输入，最后一层为输出，中心一层称之为隐含层。我们可以将一个神经收集看作依次对输入数据进行处理的函数，每经由一层原始数据就获得一次变换，最后一层变换后的结不雅则直接用于处理对应义务。 

图1：一个典范的神经收集构造

在这么个神经收集中，可以用来可视化的数据包含两部分：一是每一层神经元的输出，它们对应输入数据在收集中的不合表示;二是每个神经元所进修到的权重，它们描述着各个神经元的行动，即若何对输入进行响应的。这两部分数据分别对应作者在这篇工作中研究者们提出的神经收集内部行动的两个义务：义务一，研究数据表示间的关系;义务二、研究神经元间的关系。

我们回到神经收集本身。前面提到的神经收集的内部行动实际上包含两部分数据，并且均为高维数据。作者选择采取降维投影的方法对它们进行可视化。个中，对于第一个义务，因为原始数据本身已经有所属类别，那么研究数据表示间的聚类关系就有须要性。作者选择了能更好保存相邻关系和聚类关系的t-SNE投影来对这部分数据进行处理。而在第二个义务中，神经元的关系重要考察它们之间线性相干性的大年夜小，那么能尽量保持距离的MDS投影被作者采取。

为了进行具体的研究，作者推敲了两种神经收集模型：独裁感知机MLP和卷积神经收集CNN。个中，独裁感知机的结不雅类似于图1，只是中心含有4个隐含层，各具有1000个神经元。而卷积神经统??输入层之后有若干卷积层、池化层等等，最后在输出层之前会有全连接层，也就是类似图1中的构造。作者采取这两种模型在数据集MNIST、SVHN和CIFAR-10分别进行测试与比较。这三个数据集都是用于测试图片中数字或者物体的辨认义务的。对应到所采取的两种神经收集模型中，输入层的每个神经元对应数据集中样本的每个像素，而输出层的每个神经元则分别对应图片所属的数字或者物体某一个类别，输出值表示属于那一类其余概率。图2中，展示了这两种模型在三个数据集上的测试精确率。

投影图还可以用于比较同一模型不合层的表示差别。如图4所示，捉崾登第一层的表示投影图，右侧是最后一层的投影图。可以看到类间的可分性获得了明显的晋升。这也就意味着后面的层经由过程抓住数据中更高层的特点，对数据有了更具区分性的表示。

图2：两种收集构造在三个数据集上的精确率

接下来，我们经由过程样例分析来看看可视化是如安在这两个义务上发挥其感化的。

图3：练习前后MLP最后一层数据表示的投影图

在第一个例子中(图3)，左图是针对MNIST数据，未经练习的MLP最后一层神经元输出的投影结不雅。可以看到，即使模型还未经练习，其内部表示中，已经有了比较好的类间区分性。这一现象尽管比较直接，但没有被任何已有工作所记录。这也意味着投影的办法可以用于研究模型的初始化策略。而右图则是练习后的数据表示投影结不雅，可以看到类间的视觉区分性大年夜大年夜加强了。同时，模型的猜测精确率也加强了。这就说清楚明了根据内部表示的类间区分机能必定程度上猜测模型的精确率，同时也解释模型的练习过程也是进步数据内部表示的类间区分性的过程。

图4：练习后MLP第一层和最后一层数据表示的投影图

图5：练习后CNN最后一层数据表示的投影图

在第二个例子中，作者将SVHN数据集的MLP最后一层神经元输出进行投影(图5)。大年夜投影图中，可以轻易地看到每个类其余点根本都形成了两个聚类。经由对投影图的探查，发明个一一个聚类对应的是“淡色背景上的深色数字”，而另一类对应的是“深色背景上的淡色数字”。这种经由过程可视化获得的语义常识可以进一步赞助懂得和进步模型。例如，作者对测试数据进行边沿提取操作，以移除深浅色彩带来的影响，在完全雷同的模型下，猜测精确率立即竽暌剐了晋升。其实，已有的研究者也有提出类似的处理方法来进步模型机能，然则他们并没有对这种做法的合理性进行解释。这种聚类的语义还可以用来解释模型的缺点分类。例如，有一个数字9的图片被错分为数字2。然则，一般人可能比较困惑：为什么图片中的9如斯清楚且没有形变，但却别错分了呢?经由过程不雅察投影图，可以看到这个图片对应的点正好在“淡色背景上的深色数字2”邻近，那就意味着是模型将图片中数字9右边的边框错认为了一个形变的数字2。

　　推荐阅读

　　Facebook开源VoiceLoop，根据开放场景语音文字合成新语音

代码地址：https://github.com/facebookresearch/loop 【编辑推荐】大年夜微信、facebook定义的“人口”看即时通信的将来VR计谋:Facebook和谷歌到底谁更厉害？Facebook或将进军电视告白范畴>>>详细阅读

本文标题：对人工神经网络的隐式行为进行可视化

地址：http://www.17bianji.com/lsqh/37173.html

 1/2    1