深度学习在自然语言处理中的应用

神经机械翻译

作者遴选的最后一篇论文 (https://arxiv.org/pdf/1609.08144v2.pdf) 是关于机械翻译的。该文的作者是谷歌的机械进修大年夜牛们，Jeff Dean, Greg Corrado, Orial Vinyals等人，这篇文┞仿介绍了支撑谷歌翻译办事的基本体系。该体系比拟之前谷歌所用的体系，翻译的平均缺点率降低了60%。

传统的主动翻译办法包含多种短语匹配办法。这种办法须要大年夜量的说话学的范畴常识，并且最终其设计筹划被证实过于脆弱，缺乏泛化才能。传统办法存在的问题之一，就是它会试图一块一块地翻译输入的句子。事实证实，最有效的办法(即神经机械翻译的技巧)是一次翻译全部句子，大年夜而译文显得更天然流畅。

假设我们的目标是大年夜该词提掏出一些信息(情感偏向、词意等等)。根据说话学常识，该词可以瓜分为下面庞部分：

收集构造

该论文介绍了一种深度LSTM神经收集，包含8个编码和解码层，实现端到端的练习过程。这套体系可以拆分为三部分：编码RNN，解码RNN和留意力模块。大年夜宏不雅来说，编码器将输入的句子表示为向量的情势，解码器生成输出表示，留意力模块则是在解码阶段告诉解码器该聚焦哪部分内容(这就是应用句子整体语境的思惟来源)：

总结

(Long Short-Term Memory Units)

笔者认为，往后深度进修会在客户办事机械人、机械翻译以及复杂的问答体系发患咀用。特别感激Richard Socher以及斯坦福CS224D课程 (http://cs224d.stanford.edu/index.html) 师长教师供给的出色教室和幻灯片。

【编辑推荐】

最合适人工智能开辟的5种编程说话
有没有精深度进修融入机械人范畴的新测验测验?
周鸿袆：通用型的人工智能都是骗子必须结合垂直范畴
人工智能技巧是基于大年夜数据吃饭的?
将来三年，人工智能将成为银行与客户交换的重要方法

【义务编辑：枯木 TEL：（010）68476606】

4/4 首页上一页 2 3 4

　　推荐阅读

　　Async/Await替代Promise的6个理由

译者按: Node.js的异步编程方法有效进步了应用机能;然而回调地狱却让人望而却步，Promise让我们拜别回调函数，写出更优雅的异步代码;在实践过程中，却发明Promise并不完美;技巧进步是无尽>>>详细阅读

本文标题：深度学习在自然语言处理中的应用

地址：http://www.17bianji.com/lsqh/34697.html

1/2 1