作家
登录

自然语言处理终极方向:深度学习用于自然语言处理的5大优势

作者: 来源: 2017-10-20 09:23:23 阅读 我要评论

持续改进

NLP的深度进修的另一个承诺是,在挑衅性问题上持续快速改进。

在《天然说话处理与深度进修》讲座第一讲中,Chris Manning表示,深度进修的办法很受迎接,因为它们很管用。他说,“深度进修对大年夜多半仁攀来说如斯令人高兴的┞锋正原因是,它确切管用。“

他强调,深度进修的初步结不雅令人印象深刻。深度进修在语音范畴的表示比以前30年中任何其他办法的表示都更好。

Chris 提到,深度进修带来的不仅是最先辈的结不雅,并且是赓续改进的进步速度。他说,”……在以前的六七年中,异常令人赞叹的是,深度进修办法一向在赓续改进,并以惊人的速度变得更好。 我其实想说,这是前所未竽暌剐的,我看到这个范畴飞速地进展,每个月都邑推出更好的办法。“

端对端模型典范诺

深度进修的最终承诺是,开辟和练习天然说话问题的端对端模型才能,而不是为专门模型开辟流程。

端对端模型不仅能改进模型的机能,也能带来更好的开辟速度和简洁性。

神经机械翻译(简称NMT)是指,测验测验进修将一种说话翻译成另一种说话的大年夜型神经收集。 传统上,这是由一系列手工调剂的模型构成的流程来处理的,而流程中的每个模型都须要专业说话常识。

Chris Manning 在斯坦福大年夜学NLP深度进修课程第十讲《神经机械翻译和留意模型》中描述了这一点。他说:”神经机械翻译是指,我们想要做的是构建一个大年夜型神经收集,在这个收集中我们可以对练习全部端到端机械翻译过程并进行优化。……这种远离人工定制模型、朝向端到端、序列到序列猜测模型的趋势,一向是语音识其余趋势。 如许做的体系被称为NMT (神经机械翻译)体系。

设计端到端模型,而非为专门体系设计流程,这也是语音识其余一个趋势。

在斯坦福NLP课程第十二讲《语音处理的端到端模型》中,今朝就职于Nvidia的 NLP研究察Navdeep Jaitly强调,语音识其余每个构成部分都可以用神经收集来代替。主动语音辨认流程中的几大年夜组块是语音处理,声学模型,发音模型和说话模型。问题是,每个组块的属性和缺点类型是不合的。这激发了开辟一个神经收集来端到端地进修全部问题的须要。

天然说话处理深度进修收集的类型

深度进修是一个很大年夜的进修范畴,并不是它的所有内容都与天然说话处理相干。

哪些类型的深度进修模型能晋升机能?进修者在具体优化办法上很轻易陷入泥沼。

大年夜较高层次看,深度进修中有5种办法在天然说话处理中应用最为广泛。

他们是:

  • 嵌入图层
  • 独裁感知器(MLP)
  • 卷积神经收集(CNN)
  • 轮回神经收集(RNNs)
  • 递归神经收集(ReNNs)

NLP中的问题类型

深度进修不会彻调果断天然说话处理问题或人工智能问题。

重要的是,深度进修办法取得最大年夜成功的范畴,恰好是一些加倍面对终端用户、更具挑衅性也更有趣的问题。

【编辑推荐】

  1. 深度进修的局限性,你懂得吗?
  2. 微博深度进修平台架构和实践
  3. 简析AI(深度进修):AI会抢走你的工作吗?
  4. 十年云计算老兵零基本进军深度进修办法论
  5. 深度进修入门篇——手把手教你用TensorFlow练习模型
【义务编辑:庞桂玉 TEL:(010)68476606】

  推荐阅读

  MIT发明了个“换装”机器人,一件“衣服”承担一种功能

沙龙晃荡 | 去哪儿、陌陌、ThoughtWorks在主动化运维中的实践!10.28不见不散! “它有点像机械人傍边的瑞士军刀”,MIT 计算机科学和人工智能实验室的主管 Daniela Rus 说。她谈>>>详细阅读


本文标题:自然语言处理终极方向:深度学习用于自然语言处理的5大优势

地址:http://www.17bianji.com/lsqh/38045.html

关键词: 探索发现

乐购科技部分新闻及文章转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便更正、删除或按规定办理。感谢所有提供资讯的网站,欢迎各类媒体与乐购科技进行文章共享合作。

网友点评
自媒体专栏

评论

热度

精彩导读
栏目ID=71的表不存在(操作类型=0)