结合深度强化学习的改进神经图灵机研究与应用

发布时间：2021-03-08 18:33

　　机器学习与人工智能的研究发展迅速,机器能够理解的知识也日益复杂,在诸多高级算法的研究中,自然语言处理是一个火热的研究领域,其目的是使机器理解原生的人类语言信息,并做出合理准确的判断。神经网络算法是自然语言处理中一个十分有效的方法,神经图灵机作为神经网络上的一种改进模型,在诸多实际任务中效果显著;深度强化学习的研究赋予了机器不断成长的能力,使机器能够从失败中学习,总结经验,做出调整。考虑上述两大模型的优势,针对传统自然语言处理模型在语义逻辑处理和关键词提取上的不足,以及语句结构调优上的不足,本文分别研究了结合注意力机制的神经图灵机方法,以及应用于自然语言处理上的深度强化学习方法,最终将两者结合共同作用于自然语言处理。首先,提出了基于词级注意力的神经图灵机模型。针对现有自然语言处理模型逻辑理解与记忆能力不佳、语句关键词难以获取的问题,借助神经图灵机对语句序列建模,加强模型对词语的逻辑处理和长时记忆能力;同时在语句的隐层特征上添加注意力层,在词语层面进行权重计算,加强语句关键词作用,提取关键词信息。其次,提出了基于深度强化学习的语句结构生成模型。针对现有自然语言处理中语句结构难以调优且人工干... 

【文章来源】：中国矿业大学江苏省 211工程院校 教育部直属院校

【文章页数】：85 页

【学位级别】：硕士

【文章目录】：
致谢
摘要
abstract
变量注释表
1 绪论
    1.1 研究背景与意义
    1.2 国内外研究现
    1.3 本文主要研究内容
    1.4 本文组织结构
    1.5 本章小结
2 基本理论和算法
    2.1 神经网络模型
    2.2 深度学习与强化学习
    2.3 监督学习与强化学习
    2.4 对偶学习
    2.5 本章小结
3 基于词级注意力的神经图灵机方法
    3.1 神经图灵机模型
    3.2 注意力机制
    3.3 基于注意力的改进神经图灵机模型
    3.4 实验分析
    3.5 本章小结
4 基于深度强化学习的语句结构生成方法
    4.1 深度强化学习模型
    4.2 语句结构生成方法
    4.3 深度强化学习与神经图灵机组成的对偶模型
    4.4 实验分析
    4.5 本章小结
5 强化学习图灵机模型在舆情分析上的应用
    5.1 传统舆情分析方法
    5.2 舆情分析原型系统设计
    5.3 舆情分析原型系统实现与应用
    5.4 本章小结
6 总结与展望
    6.1 总结
    6.2 展望
参考文献
作者简历
学位论文数据集


【参考文献】：
期刊论文
[1]基于注意力与神经图灵机的语义关系抽取模型[J]. 张润岩,孟凡荣,周勇,刘兵.  计算机应用. 2018(07)
[2]深度学习相关研究综述[J]. 张军阳,王慧丽,郭阳,扈啸.  计算机应用研究. 2018(07)
[3]卷积神经网络研究综述[J]. 周飞燕,金林鹏,董军.  计算机学报. 2017(06)



本文编号：3071474