专利检索与核心专利识别方法研究
【文章页数】:78 页
【学位级别】:硕士
【部分图文】:
图2.1Skip-gram神经网络结构
硕士专业学位论文专利检索与核心专利识别方法研究112.3.1词向量技术2013年,Google开放了开源语言建模工具Word2Vec[25],该工具可以从大量未标记的数据中学习语法和语义信息。Word2Vec运用了深度学习的思想,通过训练将每个单词映射到一个K维单词向量中,并计算....
图2.2(a)BERT网络结构;(b)BERT预训练流程图
2相关理论与技术硕士专业学位论文12=∑′hjh=1(2.9)最后通过softmax函数,在输出层输出一个V维的向量={1,2,…,}。Word2vec训练的目标是学习权重矩阵包含单词权重信息的W(同W’),模型通常使用BP(BackPropagation)和BGD(BatchG....
图2.3BERT在不同任务的微调BERT的使用非常方便,只需要在已训练完成的BERT模型的输出层进行微调,即可在特定的语料上进行有监督的微调训练解决下游任务
硕士专业学位论文专利检索与核心专利识别方法研究13图2.3BERT在不同任务的微调BERT的使用非常方便,只需要在已训练完成的BERT模型的输出层进行微调,即可在特定的语料上进行有监督的微调训练解决下游任务。如图2.3BERT被用于不同任务下的微调策略。2.3.3卷积神经网络卷积....
图2.7RNN编码过程
硕士专业学位论文专利检索与核心专利识别方法研究1520611110324811596293最大池化核为2*2,步长为2图2.6最大池化示意图通常卷积层通过不同大小的卷积核进行卷积操作获得多个特征图,经过池化层后可以获得多个特征向量。最后经过多个卷积和池化层的操作后,卷积神经网络会....
本文编号:3989776
本文链接:https://www.wllwen.com/tushudanganlunwen/3989776.html