(机械进修是一个大年夜范畴。本文侧重的范畴是深度进修——这是我最熟悉的一个分区。)
在研究兴趣方面,我们看到的是 1)风格转换、2) 深度强化进修、3) 神经收集机械翻译 (“nmt”),以及 4) 图像生成 。
arxiv 奇点
让我们起首看下,在 arxiv-sanity 上( cs.AI、cs.LG、cs.CV、cs.CL、cs.NE、stat.ML)的 论文提交总数,见下图:
是的, 2017 年 3 月这些范畴差不多提交了 2000 份论文。峰值可能与会议(比如 NIPS/ICML)的截止日期有关。留意,这里并不克不及解释该范畴本身论文数量范围,因为并不是所有人都邑把论文提交到 arxiv ,并且研究人员对一部分论文的分类会随时光变更。但值得指出的是,这些范畴有大年夜量的论文。
把论文的总数作为分母。我们如今可以看下这部分论文包含了哪些我们感兴趣的特定关键词。
深度进修框架
先预热下,让我们看看正在应用的那些深度进修框架。计算这个值瓯,在整篇论文中任何处所(包含提到的参考书目书名等)提到深度进修框架的┞封部分论文都被记录在内。对上传于 2017 年 3 月的┞封部分论文,我们获得如下结不雅:
- % of papers framework has been around for (months)
- ------------------------------------------------------------
- 9.1 tensorflow 16
- 7.1 caffe 37
- 4.6 theano 54
- 3.3 torch 37
- 2.5 keras 19
- 1.7 matconvnet 26
- 1.2 lasagne 23
- 0.5 chainer 16
- 0.3 mxnet 17
- 0.3 cntk 13
- 0.2 pytorch 1
- 0.1 deeplearning4j 14
也就是说,2017 年 3 月提交的论文中有 10% 提到了 TensorFlow 。当然,不是每篇论文都声清楚明了它应用的框架,但如不雅我们假定那部分声清楚明了该框架的论文,对框架应用有一个比较固定概率的话,那么大年夜约 40% 的社区今朝正在应用 TensorFlow (甚至更多,如不雅你把带 TF 后端的 Keras 也算上)。下图可以看出一些比较风行的框架是若何随时光演变的:
我们可以看到 Theano 已经出现一段时光了,然则它的增长几乎停止。Caffe 在 2014 年急速猛增,然则在以前几个月被 TensorFlow 赶超。Torch(以及比来的 PyTorch)也在攀升,虽迟缓但稳定。接下来几个月的成长会很有趣——我小我的猜测是 Caffe/Theano 会持续有一个迟缓的降低,以及因为 PyTorch 的出现, TF 的增长会稍微变得迟缓。
在架构上,热点应用是 1) 全卷机收集 ( FCN )、2) LSTMs / GRUs 、3) Siamese 收集,以及 4) 编码器-解码器收集。
ConvNet 模型
就乐趣而言,我们何不来看下常见的 ConvNet 模型?这里,我们清跋扈地看到 ResNets 有一个巨大年夜的攀升:2017 年 3 月它们涌如今 9% 的论文中:
推荐阅读
友情提示:文中涉及较多Gif演示动画,移动端请尽量在Wifi情况中浏览媒介:调试技能,在任何一项技巧研发中都可谓是必弗成少的技能。控制各类调试技能,必定能在工作中起到事半功倍的效不雅>>>详细阅读
本文标题:机器学习流行趋势一览
地址:http://www.17bianji.com/lsqh/34961.html
1/2 1