如图所示，他们和前面章节中的所看到的┞锋实情况类似。
练习停止后，采取歌曲进行分析。这里有一个有趣的介绍样本。而另一个样本，是具有很好的风格转换。同时，我们生成了一些低速参数的例子，它们导致歌曲的速度慢了：这里是第一个和第二个。可以在这里找到全部播放列表。
我们经由过程批量处理我们的序列大年夜大年夜加快了计算速度。同时，跟着序列变长(取决于数据集)，我们的最大年夜批量开端削减。为什么是这种情况?当我们应用反向传播来计算梯度时，我们须要存储所有对内存消费供献最大年夜的中心激活量。跟着我们的序列变长，我们须要存储更多的激活量，是以，我们可以用更少的样本在批中。
如今让我们大年夜GPU内存消费和速度的角度来对待我们的问题。
有时刻，我们须要用很长的序列来工作，或者增长批的大年夜小，而你只有1个有少量内存的GPU。在这种情况下，有多种可能的解决筹划来削减内存消费，这里，我们只提抵站种解决筹划，它们之间须要弃取。
起首是一个截断的后向传播。这个设法主意是将全部序列拆分成子序列，并把它们分成不合的批，除了我们按照拆分的次序处理这些批，每一个下一批都应用前一批的隐蔽状况作为初始隐蔽状况。我们供给了这种办法的实现，以便能更好地舆解。这种办法显然不是处理全部序列的精确等价，但它使更新加倍频繁，同时消费更少的内存。另一方面，我们有可能无法捕获跨越一个子序列的经久依附关系。
第二个是梯度检查点。这种办法使我们有可能在应用更少内存的同时，在全部序列上练习我们的模型，以履行更多的计算。回想，之前我们提到过练习中的大年夜部分内存资本是被激活量应用。梯度检查点的思惟包含仅存储每个第n个激活量，并在稍后从新计算未保存的激活。这个办法已经在Tensorflow和Pytorch中实现。
结论和将来的工作
在我们的工作中，我们练习了简单的文本生成模型，扩大了模型以处理复调音乐，扼要介绍了采样若何工作以及温度参数若何影响我们的文本和音乐样本 - 低温供给了更稳定的结不雅，而高温增长了更多的随机性这有时会产生异常有趣的样本。
将来的工作可以包含两个偏向 - 悠揭捉?练好的模型在更多的应用或更深刻的分析上。例如，可以将雷同的模型应用于Spotify收听汗青记录。在练习完收听汗青数据后，可以给它一段前一小时阁下收听的歌曲序列，并在当天余下时光为您播放一个播放列表。那么，也可认为你的浏览汗青做同样的工作，这将是一个很酷的对象来分析你的浏览行动模式。在进行不合的晃荡(在健身房锤炼，在办公室工作，睡觉)时，大年夜手机中获取加快度计和陀螺仪数据，并进修分类这些晃荡阶段。之后，您可以根据本身的晃荡主动更改音乐播放列表(睡眠 - 沉着的音乐，在健身房锤炼 - 高强度的音乐)。在医学应用方面，模许可以应用于基于脉搏和其他数据检测心脏问题，类似于这项工作。
分析在为音乐生成而练习的RNN中的神经元鼓励是异常有趣的，链接在这里。看模型是否隐含地进修了一些简单的音乐概念(就像我们对和声和旋律的评论辩论)。 RNN的隐蔽表示可以用来集合我们的音乐数据集以找到类似的歌曲。
让我们大年夜我们无前提的模型中采取最后一首溉ナ来停止这篇文┞仿：D：
- The story ends
- The sound of the blue
- The tears were shining
- The story of my life
- I still believe
- The story of my life
【编辑推荐】
- Gartner：2018年大年夜数据分析平台魔力象限
- 治理者在数据分析上常犯的9个缺点
- 数据分析——2018年企业弗成缺氨赡才能
- Wikibon：云将成为收成大年夜数据分析财富的催化剂
- 数据分析若何辨认工作情况中是否存在负面身分
推荐阅读
因为Seidita的团队已经大年夜云中收集了最佳实践，并将其应用于MetLife本身的数据中间，是以迁徙到Azure和Softlayer能获得额外的好处。“我们已经可以或许在内部和外部应用同样的才能来实现主动化>>>详细阅读
本文标题：我们分析了最流行的歌词，教你用RNN写词编曲（附代码）
地址：http://www.17bianji.com/lsqh/40773.html
1/2 1
网友点评
精彩导读
科技快报
品牌展示