面向军事领域的句子级文本处理技术研究

发布时间：2020-09-02 17:42

　　非结构化文本是我军政策、命令、指示等信息的主要载体,在军事信息传递中发挥着重要作用。长期以来,军事文本信息处理主要以人工方式为主,受限于人的专业知识和工作效率,与军事信息化、智能化发展的要求日益不相适应。如何实现军事文本信息自动化、智能化处理,成为一项亟待研究的课题。自然语言处理是近年来发展迅速的一门语言学、数学和计算机科学交叉的学科,主要研究如何让计算机准确处理、理解人类的语言文本。作为一种高效的文本信息处理方式,自然语言处理技术在军事文本信息处理领域应用前景广阔。本文在分析军事领域文本特点的基础上,采用面向自然语言处理的统计学习和深度神经网络模型,对军事文本分词、词性标注和依存句法分析等问题作了深入研究,目的是将非结构化文本处理成易于计算机理解的中间形式,为下一步工作奠定基础。由于军事文本领域词语数量较多、长度偏长,导致普通分词方法切分效果并不理想。本文通过分析军事领域文本特点和术语特点,设计了一种统计模型与领域词典相结合的分词方案。该方案在现有条件随机场(CRF)分词模型基础上,采用针对领域长术语的长词位标记法,利用专用领域词典校正初步分词结果,提升领域词语识别率。在小规模领域语料库上进行实验测试,结果表明该方案分词效果优于CRF直接切分效果,并具有良好的可扩展性。针对传统的基于统计模型的词性标注存在人工特征依赖的问题,提出了一种基于注意力长短时记忆网络(LSTM)的词性标注模型。该模型在网络隐含层引入注意力机制,为各时刻隐单元分配不同权重大小,使隐含层更加关注重要特征;在输出层加入标签状态转移概率矩阵,利用标签间转移特征提升序列解码效果。实验结果表明,该模型标注准确率接近当前最佳模型,并具有结构简单、无需人为设计特征等优点。针对现有的基于LSTM的依存句法分析对句子全局结构特征关注不够的问题,提出了一种结合全局向量特征的依存句法分析模型。该模型中设计了一种分段池化的卷积神经网络(CNN)用于提取全局向量特征,并加入到LSTM句法分析模型,提升其全局关注能力。实验结果表明,与现有仅使用LSTM或CNN的句法分析模型相比,该模型在保证一定效率的同时,有效提升了依存句法分析准确率。
【学位单位】：战略支援部队信息工程大学
【学位级别】：硕士
【学位年份】：2018
【中图分类】：E91

【参考文献】