之前很多媒体在热烈评论辩论神经收集的“黑盒子”(black box)问题。复杂的模型处理猜测性工作负载时表示优胜，然则说到回溯体系是若何得出最终结不雅的，根本没有一种清楚的办法来懂得什么做对了、什么做错了，或者懂得模型若何打开本身、得出结论。

对于老式机械进修模型而言，这问题不大年夜;然则如今对于非线性隐匿式数据构造和无数参数而言，这倒是个问题。对于为科学应用安排神经收集的研究人员而言，黑盒子缺乏再现性(reproducibility)这个问题带来了验证方面的┞废碍，不过对于深度进修框架的临盆级用户来说，因缺乏可见性而无法深刻懂得收集行动还存在其他问题，尤其是在优化模型，以获得更好的机能、效力和精确性方面。

要解决这个问题，一个办法就是对神经收集模型实施可视化――这恰是社交媒体巨擘Facebook与佐治亚理工学院(Georgia Tech)的研究人员合营致力于霸占的课题。Facebook的深度进修应用处合不仅仅局限于图像分析，这意味着不合类型的数据被馈送到模型。遗憾的是，用于神经收集可视化的对象大年夜多半专注于图像数据集，这激发了Facebook研究用于Facebook临盆情况中的一种名为ActiVis的对象，这是一种交互式可视化体系，可用于说来岁夜范围神经收集模型和结不雅。

该平台由几个不合的机械进修元素构成。核心元素是Facebook的同一机械进修平台，名为FBLearner Flow，它负责调和不合的机械进修工作流程。Flow的目标是，闪开辟人员不消编写代码就可以练习模型，并查看结不雅。

佐治亚理工学院的研究团队就在一年多前开端与Facebook的工程师合作，懂得他们的分析平台、什么可视化对象实用。除了开辟这种一样对象面对的重大年夜技巧挑衅外，这种对象除了可以或许融入到Facebook的现有机械进修平台，还要“具有灵活性，可推广到Facebook等公司用于其很多产品和办事的浩瀚模型和数据集”。

ActiVis支撑两种解释策略来竽暌姑于可视化和比较多个实例和子集。它同一了基于实例的检查和基于子集的检查;它慎密地整合了复杂模型的概述和局部检查，可灵活扩大，支撑一系列广泛的行业范围的数据集和模型――对于想针对其数据应用现有模型，然则又不想深刻实施细节的那些仁攀来说，Facebook琅绫擎的┞封个对象异常宝贵。ActiVis特别专注于FBLearner Flow用于可视化，一方面是因为其用户群。

“ActiVis直不雅地显示用户指定的实例或实例子集若何激活神经元，大年夜而赞助用户懂得模型是若何导出猜测的。用户可以应用原始数据属性、变换的特点和输出结不雅，随便定义子集，可以大年夜多个角度来检查模型。”

该团队称：“ActiVis旨在处理Facebook典范多不合的模型和数据集。因为经常应用复杂模型和大年夜型数据集，ActiV具有可扩大性和灵活性很重要，那样工程师可认为其模型轻松采取ActiVis，用户可以可视化和摸索模型，用于处理分析义务。”

佐治亚理工学院的团队表示，对于大年夜范围设计这类可视化体系的任何仁攀来说，为神经收集构建一个稳定的平台涉及几个元素。他们提到了输入源和数据格局的多样性、宏大年夜数据量、复杂的模型架构，不一而足。

“固然很多现有的深度进修可视化对象支撑基于实例的摸索，ActiVis倒是第一款同时支撑对深度神经收集模型进行基于实例的摸索和基于子集的摸索的对象。此外，为了赞助用户懂得模型的大年夜致情况，它应用图形显示了模型架构，用户可以在此基本上深刻分析，在每个模型层或节点这一层面，对神经元激活履行局部检查。”

该团队表示，想要应用这种可视化对象的Facebook开辟人员添加了几行代码，这些代码告诉模型在FBLearner Flow界面中的练习过程：它须要生成可视化所需的数据。练习停止后，界面供给了这个基于Web的对象的链接，以便可视化和摸索模型。

最后，对神经收集进行可视化以解决黑盒子问题不是什么新鲜事，然则因为模型变得更复杂――这归因于硬件和更多的数据，往后会加倍须要诸如斯类的对象。我们估计，在往后几年，接入到关键平台(包含TensorFlow、Caffe及其他)的类似的可视化对象会开源，甚至可能实现贸易化，对临盆情况和科学计算这两种应用处景来说都是如斯。

【编辑推荐】

1. 人工神经收集让你一秒变老变年青，并且不会走样
2. 分析DeepMind神经收集记忆研究：模仿动物大年夜脑实现持续进修
3. 神经收集弗成思议的荣誉
4. 深度神经收集中深度毕竟带来了什么？
5. AI 黑箱难题怎么破？神经收集模型算法给你谜底

【义务编辑：武晓燕 TEL：（010）68476606】

　　推荐阅读

　　Hadoop常见错误和处理方式

萌芽办法mysqladmin versionhadoop采集的字符集问题。修改/etc/sysconfig/i18n 更改字符集为en_US.UTF-8重启机械生效。重启机械的指令为：在root下敲入如下指令：sync;sync;init 6在建立h>>>详细阅读

本文标题：Facebook的交互式神经网络可视化系统ActiVis，打开神经网络的“黑盒子”

地址：http://www.17bianji.com/lsqh/34800.html

 1/2    1