神经收集经由过程分析大年夜型练习数据集进修若何完成计算义务，它对如今表示优良的人工智能体系有巨大年夜供献，例如语音辨认体系、主动翻译器和主动驾驶汽车。但神经收集是个黑箱，一旦被练习，即使设计者本人也不懂得其运作机制：即它们处理了什么数据、若何处理数据。

研究人员的实验也能阐释神经科学方面的难题。关于在受试仁攀类大年夜脑中植入电极大年夜而控制神经掉调的研究注解，大年夜脑中的单个神经元激发还应特定的视觉刺激。这一假设原被称为祖母神经元假设（grandmother-neuron hypothesis），更熟悉的名字是神经科学家比来提出的 Jennifer-Aniston 神经元假设。他们在发明多个精神病人的神经元偏向于只回应特定好莱坞明星的描述后，提出了该假设。

MIT的新技巧赞助阐释了在可视化数据上练习的神经收集的内部机制。

两年前，来自 MIT CSAIL 实验室的计算机视觉研究团队描述了一种窥视神经收集练习黑箱的办法，大年夜而得以辨认视觉场景。该办法供给了一些有趣的洞见，但须要经由过程亚马逊的 Mechanical Turk 众包办事把数据发送给仁攀类审核员审核。

在本年的 CVPR 大年夜会上，CSAIL 研究察对上述体系进行了进级，将会出现一种完全主动化的版本。之前的论文给出了对一种神经收集（在一种义务上）的分析，新论文将会给出对四种神经收集（跨越 20 种义务）的分析，包含辨认场景与物体、为灰度图像上色、解谜等义务。一些新的收集太大年夜，所以应用旧办法分析收集成本太高。

研究人员也在收集长进行了几组实验，不仅揭示了多种计算机视觉、计算摄影算法（computational-photography algorithm）的特点，也为仁攀类大年夜脑的组织方法供给了一些证据。

神经收集之名，来自于对仁攀类神经体系的模仿，有大年夜量相当简单，但密集连接的信息处理节点。和神经元类似，神经收集的节点大年夜邻近节点收守信息旌旗灯号，然后激活释放本身的旌旗灯号，或者不反竽暌功。和神经元一样，节点激活反竽暌功的优势是能变更。

在两篇论文中，MIT 研究察修改神经收集，并经由过程练习完成计算机视觉义务，以便于揭穿每个节点针对不合输入图像的反竽暌功机制。然后，他们选择 10 张最能激发每个节点的输入图像。

在之前的论文中，研究人员将这些图像发送给 Mechanical Turk 雇佣的工作人员，让他们辨认这些图像的合营之处。而在新的论文中，研究人员应用计算机体系完成这一义务。

该论文的其他作者包含合营第一作者 Bolei Zhou、MIT 电子工程与计算机科学系传授 Antonio Torralba、CSAIL 首席研究科学家 Aude Oliva、Torralba 的博士学生 Aditya Khosla，他如今是医学计算公司 PathAI 的 CTO。

研究人员也知道哪┞放图片的哪个像素对应给定收集节点的最强回应。如今的神经收集是被组织进层内的，数据馈送给最低层，然后经由处理传递给下一层，以词攀类推。有了可视化数据，输入图像打坏为小块，每一块馈送给零丁的输入节点。

在他们的一个收集中，来自给层节点的每个回应，研究人员都能追踪到激发模式，大年夜而辨认对应的特定图像像素。因为他们的体系可以或许频繁辨认对应确切像素群的标签，是以能异常具体的描述节点行动的特点。

在数据集中，研究人员分层组织了这些视觉概念。每个级别都大年夜最底层的概念开端，比如色彩、纹理，然后是材料、构成部分、物体、场景。平日来讲，神经收集的低层可以或许对应简单的视觉特点，比如色彩和纹理，高层可以或许激发对更复杂特点的回应。

但分层也使灯揭捉?警察可以或许量化练习神经收集完成特定义务时的重点之处。例如，练习一个神经收集为诟谇图像上色，重点是大年夜量辨认纹理的节点。再比如，练习一个收集追踪视频画面中的物体，比拟于练习进行场景识其余收集，它要加倍重视画面识其余节点。在这种情况下，很多节点其实都专注于物体辨认。

MIT 研究生 David Bau 说，「我们崩涞? 1100 多种视觉概念，比如绿色、土质纹理、木材、人脸、自行车轮、雪山等。我们应用他人开辟的多个数据集，把它们与标注了密集视觉概念的数据集融合，获得了很多、很多的标签，我们知道哪个像素对应此标签。」

很多神经科学家对此解释有所争议。他们认为神经元集群，而非单个神经元，控制着大年夜脑中的感知辨认。是以，Jennifer Aniston 神经元只是一堆神经元一路激发还应 Jennifer Aniston 的图像。并且也可能是很多神经元集群合营回应当刺激，只不过没被测试到罢了。

因为 MIT 研究察的分析技巧是完全主动化的，他们可以或许测试在练习神经收集辨认视觉场景的过程中是否产生了类似的事。除了辨认被调剂为特定视觉概念的单个收集节点，他们也随机选择了却合节点。然而，节点的结合选择出的视觉概念要比单个节点少很多，大年夜约为 80%。

Bau 说，「在我看来，这注解神经收集现其实测验测验近似获取一个祖母神经元。他们并不是想把祖母神经元的概念搞的到处都是，而是想把它分派给一个神经元。这是一个有趣的暗示，大年夜部分人不信赖这个架构如斯简单。」

论文： Network Dissection: Quantifying Interpretability of Deep Visual Representations

论文链接：http://netdissect.csail.mit.edu/final-network-dissection.pdf

我们提出了一种名为 Network Dissection 的通用框架，可以或许经由过程评估单个隐蔽单位与一系列语义概念间的对应关系，来量化 CNN 隐蔽表征的可解释性。给出一个 CNN 模型，我们提出的该办法应用大年夜量视觉概念的数据集来评分每个中心卷积层隐蔽单位的语义。这些带有语义的单位被付与了大年夜量标签，大年夜物体、构成部分、场景到纹理、材料和色彩。我们应用已提出的办法测试了这一假设：单位的可阐释性等同于其随机线性结合；接着当被练习解决不合的监督和自监督练习义务时，我们应用我们的办法比较了不合收集的潜在表征。我们进一步分析了练习迭代的影响，比较了应用不合初始化进行练习的收集，检查了收集深度和宽度的影响，并测岑岭 dropout 和批归一化在深度视觉表征的可阐释性上产生的影响。我们证清楚明了已提出的办法可以揭示 CNN 模型和练习办法（超出了对其判别力的测量）的特点。

　　推荐阅读

　　物联网标识 物联网的另一个万亿级市场

2016年全球花费者物联网市场范围为5460亿美元，企业物联网支撑则是8680亿美元;2016年全球物联网终端达64亿台，同比2015年增长30%，到了2020年，全球所应用的物联网终端数量将达208亿。近几>>>详细阅读

本文标题：MIT 提出Network Dissection框架，全自动窥探神经网络训练的黑箱

地址：http://www.17bianji.com/lsqh/35992.html

 1/2    1