基于LSTM和迁移学习的网页主题分类方法研究与实现

发布时间：2020-04-05 05:44

【摘要】：文本分类的研究相对较早,而且拥有比较成熟的技术,因此网页分类研究主要以文本分类为基础。当前大多数网页分类方法属于浅层学习方法,由于语言的语法特殊、语义多元、隐寓性表达等特点,浅层的学习方法存在文本表征能力有限、依赖人工抽取特征等不足,难以获得较高的网页分类准确率。因此,本文基于深度学习方法开展网页主题分类研究。在自然语言处理领域,深度学习模型具有很强的针对性,及必须针特定任务训练特定的模型。众所周知,深度学习模型的训练及效果依赖于训练数据的规模。但对训练数据较少的一些任务,这将是一个刺手的问题,因此而限制了深度学习模型在小样本文本信息处理领域的应用。另外,由于深度学习模型结构复杂,即使拥有足够的训练数据,针对特定任务重新训练模型的成本较高。针对上述问题,本文以网页文本主题分类为研究目标,深入研究了网页文本主题分类技术,并结合深度学习和迁移学习,提出了一种可用于中文和维吾尔文分类问题的语言模型的微调方法。实验证明,基于语言模型的微调方法可有效解决中文和维吾尔文网页文本主题分类任务。本文的研究工作主要有一下三点:(1)构建了语言建模和网页主题分类数据集。利用网络爬虫技术从人民网、天山网等新闻网站中收集了中文和维吾尔文网页文本。构建了语言建模数据集和网页文本主题数据集。(2)利用有差异的参数优化方法。在深度神经网络中,不同层所表示的信息时有差异的,因此不同层设置不同的学习率,能够防止灾难性的遗忘,并加快模型的收敛速度。(3)提出了基于深度学习和迁移学习的网页主题分类方法,该方法能够解决高质量数据少、深度学习模型训练时间长等问题。相较于仅用目标任务数据训练,该方法在中文和维吾尔文网页主题分类的分类准确率分别提高了5.62%和5.87%,具有良好的分类效果。
【图文】：

架构图,架构,下载,引擎

新疆大学硕士学位论文crapy Engine）、调度器（Scheduler）、下载器（Downloader）、爬虫（m Pipeline）、下载中间件（Downloader Middlewares）、Spide架的核心，它负责爬虫、管道、下载器、调度器之间的通讯、负责接收引擎发过来的请求，，并按照一定的方式进行整理排列要时交还给引擎。下载器负责下载引擎发送的所有请求，并将se 交换给引擎，由引擎交给爬虫来处理。爬虫负责处理所有 R提取数据，获取 Item 字段需要的数据，并将需要跟进的 URL入调度器。管道负责处理爬虫中获取到的 Item，并进行后期的过滤、存储等）。下载中间件是一个可以自定义扩展下载功能件是一个可以自定义扩展和操作引擎与爬虫之间通信的功能
【学位授予单位】：新疆大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：TP391.1;TP393.092;TP181

【相似文献】