基于自然语言处理的专利知识图谱构建研究

发布时间：2024-02-15 10:30

　　近年来美国对中国发起贸易战,又一次挥起知识产权保护的大棒,对中国施加压力。知识产权作为美国的核心竞争力,美国为了维护其自身的技术和经济优势不惜手段的遏制竞争对手,防止技术被赶超。我国作为后发的追赶者被美国处处针对,专利作为知识产权中高科技领域的代表更是如此。中国的专利保护发展时间短、情况复杂,并且专利文本的非结构化程度高、数据量庞大,使专利分析工作大量依赖于专业人士,提高了专利分析保护的门槛。知识图谱作为大数据时代下强有力的分析检索工具,已经成熟的被广泛应用于各个领域,因此本文尝试将知识图谱与专利保护领域结合,研究专利文本的知识图谱构建与基于专利文本的知识图谱检索系统。在专利知识图谱的构建方面,本文对现有模型字词向量的输入方式进行研究,在现有求和与拼接两种效果最好字词结合输入的基础上,结合Bert模型,对字词结合进行改进,得到四种字词结合的模型输入方式。在此基础上,本文通过设计了合理的对比实验,根据实验结果,Bert操作的顺序对实验结果有很大的影响。字词向量同时进行Bert操作不会明显增大字词向量之间的特征差异,对结果提升作用较弱。而分别进行Bert操作可以增大字词向量间的特征差异,对...

【文章页数】：72 页

【学位级别】：硕士

【部分图文】：

图２．２展示，图中蓝色框线内的Ｅｎｃｏｄｅｒ和Ｄｅｃｏｄｅｒ具有６层相同的结构

?力机制＾？?Ｔ－?１?遮掩的多头注意Ｌ??Ｓｅｌｆ－Ａｔｔｅｎｔｉｏｎ???力机制?广｜??■＿?０＾０??－——４＾＝＝ｉ?????＾?１—１位置编码??Ｉｎｐｕｔ?Ｅｍｂｅｄｄｉｎｇ?Ｏｕｔｐｕｔ???ｘ??Ｅｍｂｅｄｄｉｎｇ??Ｉｎｐｕｔｓ?ｆ??１?Ｉ?Ｏｕｔｐｕｔｓ?....

图２．４基于规则和字典的命名实体抽取??为了解决以上问题，首先，相关领域的专家需要对领域内的命名实体对象建立专业的字??典

进行对??外的扩展，只能适用于小范围的领域。另外，尽管基于规则的方法具有对结构化的数据的高??识别准确率，但是受规则的覆盖范围的限制，根本不能对规则之外的情况进行处理。如果制??定太多规则，则会导致规则之间冲突，规则与规则可能会相互制约。??；数据１?：＾??？■实体１??丨?丨....

图２．６Ｂｉ－ＬＳＴＭ网络结构图??１６??

?杭州电子科技大学硕士学位论文???的记录信息进行选择性的保留，一定程度上解决了?ＲＮＮ模型中的梯度问题，同时保留了?ＲＮＮ??模型对信息的记录能力。??迪忘门??Ｘｔ?Ｃｆ?Ｊ￣＾??／?输出门??输入门??Ｘｔ?ｘｔ?＼??图２．５ＬＳＴＭ单元结构图??ＬＳＴＭ网络模型在ＲＮ....

图２．５ＬＳＴＭ单元结构图??ＬＳＴＭ网络模型在ＲＮＮ网络模型的基础上，通过增加输入门，输出门以及遗忘门的机??制，通过控制每个神经单元是否记录与保存结果，来解决ＲＮＮ网络中的梯度爆炸和消失的问??题

?杭州电子科技大学硕士学位论文???的记录信息进行选择性的保留，一定程度上解决了?ＲＮＮ模型中的梯度问题，同时保留了?ＲＮＮ??模型对信息的记录能力。??迪忘门??Ｘｔ?Ｃｆ?Ｊ￣＾??／?输出门??输入门??Ｘｔ?ｘｔ?＼??图２．５ＬＳＴＭ单元结构图??ＬＳＴＭ网络模型在ＲＮ....

本文编号：3899597