持续改进
NLP的深度进修的另一个承诺是,在挑衅性问题上持续快速改进。
在《天然说话处理与深度进修》讲座第一讲中,Chris Manning表示,深度进修的办法很受迎接,因为它们很管用。他说,“深度进修对大年夜多半仁攀来说如斯令人高兴的┞锋正原因是,它确切管用。“
他强调,深度进修的初步结不雅令人印象深刻。深度进修在语音范畴的表示比以前30年中任何其他办法的表示都更好。
Chris 提到,深度进修带来的不仅是最先辈的结不雅,并且是赓续改进的进步速度。他说,”……在以前的六七年中,异常令人赞叹的是,深度进修办法一向在赓续改进,并以惊人的速度变得更好。 我其实想说,这是前所未竽暌剐的,我看到这个范畴飞速地进展,每个月都邑推出更好的办法。“
端对端模型典范诺
深度进修的最终承诺是,开辟和练习天然说话问题的端对端模型才能,而不是为专门模型开辟流程。
端对端模型不仅能改进模型的机能,也能带来更好的开辟速度和简洁性。
神经机械翻译(简称NMT)是指,测验测验进修将一种说话翻译成另一种说话的大年夜型神经收集。 传统上,这是由一系列手工调剂的模型构成的流程来处理的,而流程中的每个模型都须要专业说话常识。
Chris Manning 在斯坦福大年夜学NLP深度进修课程第十讲《神经机械翻译和留意模型》中描述了这一点。他说:”神经机械翻译是指,我们想要做的是构建一个大年夜型神经收集,在这个收集中我们可以对练习全部端到端机械翻译过程并进行优化。……这种远离人工定制模型、朝向端到端、序列到序列猜测模型的趋势,一向是语音识其余趋势。 如许做的体系被称为NMT (神经机械翻译)体系。
设计端到端模型,而非为专门体系设计流程,这也是语音识其余一个趋势。
在斯坦福NLP课程第十二讲《语音处理的端到端模型》中,今朝就职于Nvidia的 NLP研究察Navdeep Jaitly强调,语音识其余每个构成部分都可以用神经收集来代替。主动语音辨认流程中的几大年夜组块是语音处理,声学模型,发音模型和说话模型。问题是,每个组块的属性和缺点类型是不合的。这激发了开辟一个神经收集来端到端地进修全部问题的须要。
天然说话处理深度进修收集的类型
深度进修是一个很大年夜的进修范畴,并不是它的所有内容都与天然说话处理相干。
哪些类型的深度进修模型能晋升机能?进修者在具体优化办法上很轻易陷入泥沼。
大年夜较高层次看,深度进修中有5种办法在天然说话处理中应用最为广泛。
他们是:
- 嵌入图层
- 独裁感知器(MLP)
- 卷积神经收集(CNN)
- 轮回神经收集(RNNs)
- 递归神经收集(ReNNs)
NLP中的问题类型
深度进修不会彻调果断天然说话处理问题或人工智能问题。
重要的是,深度进修办法取得最大年夜成功的范畴,恰好是一些加倍面对终端用户、更具挑衅性也更有趣的问题。
【编辑推荐】
- 深度进修的局限性,你懂得吗?
- 微博深度进修平台架构和实践
- 简析AI(深度进修):AI会抢走你的工作吗?
- 十年云计算老兵零基本进军深度进修办法论
- 深度进修入门篇——手把手教你用TensorFlow练习模型
推荐阅读
沙龙晃荡 | 去哪儿、陌陌、ThoughtWorks在主动化运维中的实践!10.28不见不散! “它有点像机械人傍边的瑞士军刀”,MIT 计算机科学和人工智能实验室的主管 Daniela Rus 说。她谈>>>详细阅读
本文标题:自然语言处理终极方向:深度学习用于自然语言处理的5大优势
地址:http://www.17bianji.com/lsqh/38045.html
1/2 1