技巧总言:
此次重要说比来成长的无监督特点进修和深刻进修,其对于时光序列模型问题的评价。这些技巧已经展示了欲望对于建模静态数据,如计算机视觉,把它们应用到时光序列数据正在获得越来越多的存眷。此次重要概述了时光序列数据存在的特别挑衅,并供给了工作的评价,其含有把时光序列应用到非监督特点进修算法或者是有选择的促成特点进修算法的更改去推敲今朝时光序列数据的挑衅。
当 人们大年夜脑在进修义务的时刻,如说话、视觉和活动,时光是一种天然元素老是存在的。大年夜多半真实世界的数据有一些时光成份,无论是天然过程的测量值(如气象,声波)或者工资的(股市,机械人)。时光序列数据的分析一向为积极研究的课题几十年了,被认为是由 Yang 和 Wu 作为数据发掘的十大年夜挑衅性的问题之一,因为其独特的性质。建模持续数据的传统办法包含大年夜假准时光序列模型参数的估计,如自回归模型和线性动力体系( LDS ),和有名的隐马尔可夫模型( HMM )。估计的参数然后可以在分类器被用作特点去履行分类。然而,更复杂的,更高维的和更复杂的┞锋实世界的时光序列数据不克不及被分析的方程式描述,用方程的参数去解决,因为动力学要么太复杂或未知和传统的浅办法,只含有一个小非线性操作的数,不必精确地模仿这种复杂的数据的才能。为了更好的模型完成复杂的┞锋实世界数据,一种办法是开辟强大年夜的功能,获取相干信息。然而,开辟特有范畴的特点对于每个义务是昂贵的,耗时的并且须要数据的专门常识。可供选择的办法是应用无监督特点进修,以便大年夜未标签数据学到了一层特点表达。其有优势是因为未标签的数据多且轻易获得,应用其特点大年夜数据中进修而不是手工获知。另一个好处是特点表示这些层可以被堆叠以产生深的收集,这是更可以或许在数据中建模复杂构造。深层收集已在多项基准测试数据集中被用来实现国度的最先辈的结不雅和解决艰苦的 AI 义务。然而,特点进修倍受社会各界重点存眷,一向放在开辟静态数据模型然而时光序列数据没有那么多存眷。
时光序列数据的性质
年腋荷琐持续的采样数据点的时光序列数据,随时光实值一向在处理。有很多的时光序列数据的特点,使得它与其他类型的数据的不合。
起首,采样的时光序列数据往往包含很多噪声且具有高的维数。为了处理这一点,如降维技巧、小波分析或滤波的旌旗灯号处理技巧可以应用于以去除一些噪声和降维。应用特点提取具有很多长处。然而,有价值的信息可能损掉,特点和旌旗灯号处理技巧的选择可能须要数据的专业常识。
此外,时光序列对时光变量有明显依附性。在时光 t 给定输入值 x ( t ),该模型猜测为 Y ( t ),但在稍后的时光雷同的输入可以与不合的猜测相接洽关系。为懂得决这个问题,该模型包含大年夜以前到如今更多的数据或者必须具有的以前的输入的存储器。对于经久依附的第一种办法可以使输入尺寸过大年夜的模型来处理。另一个挑衅是,时光依附性的长度可能是未知的。
很多时光序列也长短静止的,这意味着该数据的特点,如平均值,方差和频率,随时光的变更的。对于一些时光序列数据,在频率的变更是如斯相干,在频域比在时域这是更有利去工作的。
最后,当涉及到不变性,时光序列数据和其它类型的数据会有不合。在其他范畴,例如计算机视觉,它最重要的是要有特点,不变的平移,扭转,和比例。时光序列大年夜多半特点须如果不变平移。
非监督进修和深度进修
接下来重要介绍用于无监督特点进修模型和技巧,用于建模时光关系。大年夜未标签数据进修特点的长处是大年夜量未标签的数据可以被应用,但比手工设定的特点可能有更好的特点可以学到。这两个长处削减了须要数据的专门常识。
受限玻尔兹曼机
受限波尔兹曼机( RBM )是一个概率模型,它输入单位(可见) x 和隐蔽单位(隐蔽) h 如图 1 所示。
图 1 静态数据的 2 层 RBM
可见和隐蔽单位与一个权重矩阵相连, W 和有偏置向量分别为 C 和 B 。可见的和隐蔽单位之间没有接洽。 RBM 可用于模仿静态数据。能量函数和结合分布对于给定的可见和隐蔽向量定义为:
个中 Z 是分区功能,确保了分布是归一化的。对于二进制可见和隐蔽单位,隐蔽的单位被激活给出可见向量 x 的概率,可视单位被激活给出隐蔽向量 h 的概率,由下式给出:
个中σ(·) 是所有练习样本的均值。几个 RBMs 可以堆叠产生一个深度信念收集( DBM )。在一个深度收集里,在第一层隐蔽单位的激活是第二层的输入。
前提 RNM
RBM模型的多元时光序列数据的扩大是前提 RBM ( cRBM ),如图 2 所示。一个类似的模式是时光 RBM 。
推荐阅读
实践出真知,有的时刻看到一些有趣的现象就想着用本身所学的常识复现一下。缘起前几天在 github 上看到同事的一个如许的小项目,在 IOS 上实现了如许一个小动画效不雅,看上去蛮炫的,效不>>>详细阅读
本文标题:深度学习的时间序列模型评价
地址:http://www.17bianji.com/lsqh/35073.html
1/2 1