基于多粒度和注意力机制的机器阅读理解

发布时间：2021-12-25 01:40

　　随着深度学习的复兴,再一次掀起了人工智能的研究高潮,而对自然语言处理来说,自然语言一直以来被誉为是人工智能领域的皇冠。其中,推理能力是实现真正人工智能的一个关键因素,为了让机器获得更强的推理能力,有学者提出利用机器阅读理解任务来让机器获得深度推理能力,并且随着阅读理解相关的各类型数据集发布和模型快速发展,促使机器阅读理解迅速成为nlp领域最热门的研究方向之一。百度于2018年提出DuReader2.0数据集,相较于其他阅读理解任务数据集,DuReader2.0有着很大的不同,它的数据来源丰富,问题类型复杂,文本数据很长,并且每个问题对应多个文章和多个人工答案。针对DuReader2.0这种多文档多答案的机器阅读理解任务,本文主要从三个方面来进行研究,考察长文本的有效信息提取,研究文章与问题信息的有效融合,并研究如何获取更丰富的文本信息。本文的主要工作内容和成果如下:（1）研究并复现了在单文档问题跨度抽取任务上具有较好性能的BiDAF模型（百度官方给出的基准模型）,并以BiDAF的成绩作为本文任务的基准成绩,以BiDAF模型作为我们工作改进的基准模型。（2）针对DuReader2.0这类... 

【文章来源】：广东工业大学广东省

【文章页数】：61 页

【学位级别】：硕士

【部分图文】：

前馈神经网络结构图

神经网络拟合非线性可分数据图示

卷积计算实例Fig.2-3Convolutioncalculationexample


本文编号：3551563