时光相干性

有很多其他办法除了体系构造，其可用于捕获数据中的时光相干性。一种办法是惹人一个腻滑处罚在正规化的隐变量。这是经由过程最小化的变更的隐蔽单位年腋荷琐帧到下一帧激活经由过程如下完成：

这背后的念头是持续数据的隐单位激活不该有太大年夜变更，如不雅时光相干性数据按时光次序被反馈到该模型。其他策略包含处罚的平方差，慢速特点分析，或作为其他身分的函数，例如在输入数据中的变更，以北善?慢速和快速变更的输入数据。

时光相干性是关系到不变性特点的表示，因为这两种办法要实如今输入数据中特点表达的渺小变更。是以建议在，其姿势参数和仿射变换应被建模，而不是应用不变性特点表示。在这种情况下，时光相干性应跨越一些组，如地位和姿势的目标，而不是单一的标量。这例子可以用构造稀少性处罚来实现。

小结一下

表 1 给出了扼要介绍模型的总结。第一列表示模型是否可以或许捕获时序关系。一个模型捕获时序关系由具以前输入的内存完成。一个模型的内存，在第二列中指导，意味着在当前帧上有若干步及时回到输入。没有时次序序，特点序列的任何分列会产生雷同的分布。一个存储器的实如今模型之间履行不合。在一个 cRBM ，延迟被用于创建关于以前可见单位的短期相干性。经久相干性来自模仿后续层。这意味着对于一个 cRBM 存储器的长度增长对于每个添加层。在一层 cRBM 模型次序中平日低于 5 个输入大年夜小的大年夜约 50 阁下。在输入尺寸减小将许可更高模型次序。在一个 RNN 中，隐单位在当前时光帧受到在先前时光帧隐单位状况的影响。这可以创建带有潜在的无穷时光帧的持续时光的连锁反竽暌功。另一方面，这种连锁反竽暌功可以经由过程用忘记门避免。应用长短期记忆或 hessian-free 优化可以产生递推收集，其拥有跨越 100 个时光步调的记忆。门控 RBM 和卷积 GRBM 模型在一对驶入向量之间转换，所以这些模型的内存为 2 。时空 DBN 模型 6 个输出序列来自空间池化层，对于 GRBM 这是一个较长内存，但应用了一个较低的输入大年夜小。

在表 1 中的最后一列表示假如模型生成(相对于判别)。一个生成模许可以产生不雅测数据赐与一个隐蔽表示，并且这才能主如果用于产生将来的时光步长的合成数据。尽管主动编码器没有生成，一个概率的解释可以应用主动编码器的得分生成。

一种模型已经出现并证实是合适伙市猜测的一个模型就是人工神经收集( ANN )。这是因为它可以或许处理非线性复杂体系的才能。 ANNs 的查询拜繁善?于股市猜测在给出。然而， ANN 的大年夜多半办法应用于股票猜测给出了不睬想的结不雅。神经收集的反馈也试被试用过，例如 TDNN 的递归版本，具有 RNN 的小波变换，反馈状况收集。很多这些办法都是直接对原始数据应用，而其他报纸更重视特点选择的步调。

经典时光序列问题

总刹那间序列数据是高维和复杂的具有独特点质的，它们的分析和建模具有挑衅性。有很大年夜兴趣在时光序列数据表达，为了将维且提取相干的信息。关键对于任何成功的应用在于选择精确的表示。各类时序问题包含了不合程度的性质，在本节和先验常识或假设有关这些性质的评论辩论，经常被注入在所选择的模型或特点表达。非标签数据进修表达代替手工设置特点越来越感兴趣。无监督特点进修已经证实是成功的，在进修的特点表示层的静态数据集，且可与深度收集相结合去创造更强大年夜的进修模型。然则，特点进修的时光序列数据必须去修改，为了调剂时光序列数据的特点，为了捕获时光信息。

表 1 常用模型的特点进修的总结

股票市场数据是高度复杂和难以预感的，即使对于仁攀类专家，因为一些外部身分，例如，政治、全球经济和交易商期望。在股票市场数据的趋势偏向于非线性、不肯定的和非安稳的。图 7 显示了跨越十年的 Dow Jones 工业平均指数( DJOI )。

在这我们将重点介绍一些常见的时光序列问题和模型，并已解决他们在文献中给出。我们将专注于复杂问题，对于特点表达须要用隐变量，个中表示完全或部分大年夜未标签的数据进修。那会在本节出现经典的时光序列问题，总结如表 2 。

表 2 常用时光序列问题的总结

举个小例子：视频

视频数据是跟着时光推移的图像系列(时空数据)，并可以是以被看作是高维的时序数据。如图 6 表示大年夜 KTH 行动辨认数据集的图像序列。传统的办法是模仿视频流，是将用合营的特点检测每一个个别的静态图像和检测有趣的点，如 SIFT 或 HOG 。这些特点是特定域的静态图像，并且不轻易扩大到其他范畴，例如视频。

图6 四个图像大年夜 100 、 105 、 110 和 115 帧上运行的人的 KTH 动作辨认数据集。 KTH 数据集还包含走路、慢跑、打拳、挥手和热烈鼓掌的视频。

采取 Stavens 和特龙的办法进修本身的范畴优化特点，而不是用预先定义的特点，但仍来自静态图像。更好的办法是去模仿视频，去进修图像的转换而不是用静态图像工作。 GRBM 已被用于这一目标，个中输入 x ， GRBM 在一个时光帧是完全的图像，且输出 y 是随后时光帧中的完全图像。然而，因为收集是全连接到图像，该办法不克不及很好地扩大到更大年夜的图像，并在多个地位的局部变换必须从新进修。

　　推荐阅读

　　BOOM：一款有趣的Javascript动画效果

实践出真知，有的时刻看到一些有趣的现象就想着用本身所学的常识复现一下。缘起前几天在 github 上看到同事的一个如许的小项目，在 IOS 上实现了如许一个小动画效不雅，看上去蛮炫的，效不>>>详细阅读

本文标题：深度学习的时间序列模型评价

地址：http://www.17bianji.com/lsqh/35073.html

 1/2    1