从语言学到深度学习NLP，一文概述自然语言处理

【51CTO晃荡】8.26 带你与清华大年夜学、搜狗、京东大年夜咖们一路商量基于算法的IT运维实践

起首第一部分介绍了天然说话处理的根本概念，作者将 NLP 分为天然说话懂得和天然说话生成，并说清楚明了 NLP 过程的各个层级和应用，这一篇论文很合适读者体系的懂得 NLP 的根本概念。

第二描述的是基于深度进修的 NLP，该论文起首描述了深度进修中的词表征，即大年夜> 大年夜说话学到深度进修NLP，一文概述天然说话处理

天然说话处理(NLP)比来因为仁攀类说话的计算表栈赝分析而获得越来越多的存眷。它已经应用于很多如机械翻译、垃圾邮件检测、信息提取、主动摘要、医疗和问答体系等范畴。本论文大年夜汗青和成长的角度评论辩论不合层次的 NLP 和天然说话生成(NLG)的不合部分，以出现 NLP 应用的各类最新技巧和当前的趋势与挑衅。

1、媒介

天然说话处理(NLP)是人工智能和说话学的一部分，它致力于应用计算机懂得仁攀类说话中的句子或词语。NLP 以降低用户工作量并知足应用天然说话进行人机交互的欲望为目标。因为用户可能不熟悉机械说话，所以 NLP 就能赞助如许的用户应用天然说话和机械交换。

说话可以被定义为一组规矩或符号。我们会组合符号并用来传递信息或广播信息。NLP 根本上可以分为两个部分，即天然说话懂得和天然说话生成，它们演变为懂得和生成文本的义务(图 1)。

大年夜说话学到深度进修NLP，一文概述天然说话处理

图 1：NLP 的粗分类

说话学是说话的科学，它包含代表声音的音系学(Phonology)、代表构词法的词态学(Morphology)、代表语句构造的句法学(Syntax)、代表懂得的语义句法学(Semantics syntax)和语悠揭捉?(Pragmatics)。

NLP 的研究义务如主动摘要、指代消解(Co-Reference Resolution)、语篇分析、机械翻译、语素切分(Morphological Segmentation)、定名实体辨认、光学字符辨认和词性标注等。主动摘要即对一组文本的具体信息以一种特定的格局生成一个摘要。指代消解指的是用句子或更大年夜的一组文本肯定哪些词指代的是雷同对象。语篇分析指辨认连接文本的语篇构造，而机械翻译则指两种或多种说话之间的主动翻译。词素切分表示将词汇瓜分为词素，并辨认词素的类别。定名实体辨认(NER)描述了一串文本，并肯定哪一个名词指代专有名词。光学字符辨认(OCR)给出了打印版文档(如 PDF)中心的文字信息。词性标注描述了一个句子及其每个单词典词性。固然这些 NLP 义务看起来彼此不合，但实际上它们经常多个义务协同处理。

说话的层级是表达 NLP 的最具解释性的办法，能经由过程实现内容筹划(Content Planning)、语句筹划(Sentence Planning)与表层实现(Surface Realization)三个阶段，赞助 NLP 生成文本(图 2)。

大年夜说话学到深度进修NLP，一文概述天然说话处理

图 2：NLP 架构的阶段

说话学是涉及到说话、语媾和各类说话情势的学科。与 NLP 相干的重要术语包含：

音系学
形态学
词黄揭捉?
句法学
语义学
语篇分析
语悠揭捉?

3、天然说话生成

NLG 是大年夜内涵表征生成有含义的短语、句子和段落的处理过程。它是 NLP 的一部分，包含四个阶段：肯定目标、经由过程场景评估筹划若何实现目标、可用的对话源、把筹划实现为文本，如下图 3。生成与懂得是相反的过程。

大年夜说话学到深度进修NLP，一文概述天然说话处理

图 3：NLG 的组件

4、NLP 的应用

NLP 可被他应用于各类范畴，例如机械翻译、垃圾邮件检测、信息提取等。在这一部分，该论文对以下 NLP 的应用进行了介绍：

机械翻译
文本分类
垃圾邮件过滤
信息提取
主动摘要
对话体系
医疗

深度进修中的 NLP

以上内容对 NLP 进行了基本的介绍，但忽视的近年来深度进修在 NLP 范畴的应用，是以我们弥补了北京理工大年夜学的一篇论文。该论文回想了 NLP 之中的深度进修重要模型与办法，比如卷积神经收集、轮回神经收集、递归神经收集;同时还评论辩论了记忆加强策略、留意力机制以及无监督模型、强化进修模型、深度生成模型在说话相干义务上的应用;最后还评论辩论了深度进修的各类框架，以期大年夜深度进修的角度周全概述 NLP 成长近况。

如今，深度进修架构、算法在计算机视觉、模式辨认范畴已经取得惊人的进展。在这种趋势之下，近期基于深度进修新办法的 NLP 研究有了极大年夜增长。

图4：2012 年-2017 年，在 ACL、EMNLP、EACL、NAACL 会议上出现的深度进修论文数量增长趋势。

十几年来，解决 NLP 问题的机械进修办法都是基于浅层模型，例如 SVM 和 logistic 回归，其练习是在异常高维、稀少的特点长进行的。在以前几年，基于密集向量表征的神经统??多种 NLP 义务上都产生了优良结不雅。这一趋势由词嵌入与深度进修办法的成功所鼓起。深度进修使得独裁级的主动特点表征的进修成为了可能。传统的基于机械进修办法的 NLP 体系极端依附手写特点，既消费时光，又老是不完全。

1/3 1 2 3 下一页尾页

　　推荐阅读

　　Chrome调试工具的一些高阶功能

Chrome 内置抓包对象 Block requests 朝长进步长图代码的覆盖率分析 Make site better Chrome 内置抓包对象【编辑推荐】Vivaldi浏览器主打汗青记录功能，想挑衅Chrome霸权谷歌Ch>>>详细阅读

本文标题：从语言学到深度学习NLP，一文概述自然语言处理

地址：http://www.17bianji.com/lsqh/36873.html

1/2 1