深度学习可视化工具大盘点（附资源）

深度收集对机械进修研究和应用范畴产生了巨大年夜的影响，与此同时却无法很清楚地解释深度收集的前因后果。人们一向致力于更透辟地去懂得个中复杂的过程。因为仁攀类对于世界的认知和感触感染重要来自于视觉，优胜的可视化可以有效的资世人们懂得深度收集，并进行有效的优化和调节。本文重要基于ICML可视化的workshop和查到的相干论文，分享一下提到的一些先辈的可视化概念和办法。

内容重要参考：http://icmlviz.github.io/

ACTIVIS

Facebook 研发的交互式深度进修可视化体系，可以对临盆情况中的大年夜范围模型以及器运行的结不雅进行活泼直不雅的出现。这一体系可以支撑四个方面的可视化。

模型架构及其对应的计算图概览
用于核阅激活情况的神经元激活矩阵、以及投影到2D的可视化
可以对于每一个实例结不雅进行可视化分析
支撑增长不合的实例来对不合的实例、子集、类型的激活模式进行比较，寻找误分类的原因

Grad-CAM

上图中可以看到对于猫和狗不合的分类，显示出的置信区域也各部雷同。同时还能显示视觉问答的过程：

Deep View

研究人员基于Deep View这一可视化对象研究了练习过程中深度收集的进化情况。应用判别矩阵和密度矩阵分别评价神经元和输出特点图在练习中的进化过程，总而建立了十分过细的视觉分析框架，可以或许有效展示模型在练习过程中局部和全局的特点变更。

参考：

http://www3.cs.stonybrook.edu/~mueller/people/http://101.96.8.164/icmlviz.github.io/assets/papers/2.pdf

一个天然说话处理的交互式可视化对象

能可视化NLP体系的输出，赞助用户更好的懂得对于文本数据的处理同时进行一些须要的修改。如许的反馈过程可以赞助改进模型的精度。

参考：https://arxiv.org/pdf/1707.01890v2.pdf

LSTMV

递归神经收集特别是长短时记忆收集是对于时序旌旗灯号强有力的对象，可以有效的建立和表征时序输入的隐含模式。研究人员对于个中隐蔽层随时光的变更十分感兴趣，这一工作重要聚焦于对递归神经收集中的隐蔽层动力学可视化。用户可以应用这一对象针对性的拔取输入范围并与雷同模式的大年夜数据集进行比较，同时还可以应用这一对象对自力的模式进行统计分析。