基于深度学习的时间序列预测研究

发布时间：2021-12-12 02:12

　　时间序列分析是一门针对一定时间间隔下的时序数据进行数据处理和建模的科学。它在许多领域都发挥着至关重要的作用,如金融、医疗、气象观测、人口普查、网站流量和交通领域等。时间序列预测作为时间序列分析的核心任务之一,它根据时间序列的发展、趋势进行推理、延展,进而预测下一系列时刻的状态。随着海量数据的产生,时序预测问题由简单的单一序列预测变为多序列预测,由低维时序特征变为高维复杂的时序特征。时序预测模型也根据数据特征的变化由经典的自回归模型逐步向复杂的非线性模型转变,如采用卷积神经网络和循环神经网络等深度学习模型。深度学习中的序列模型与时序中多步预测问题有着紧密的联系,两者均要求根据已知序列进行建模,输出不等长的新序列。“编码-解码”框架是处理序列模型的有效方式之一,编码和解码两个阶段均可采用不同的网络模型进行处理。本文在编码阶段除了采用循环神经网络GRU,还利用时间卷积网络扩展输入数据的跨度,增加GRU每个神经元节点所覆盖的历史信息。在“编码-解码”框架的基础上,本文还引入了多个Attention机制使模型关注局部特征。一种是在编码阶段增加自注意力层,根据输入向量自身的相关性生成自注意力特征。... 

【文章来源】：华中科技大学湖北省 211工程院校 985工程院校 教育部直属院校

【文章页数】：55 页

【学位级别】：硕士

【部分图文】：

嵌套交叉验证示意图

华 中 科 技 大 学 硕 士 学 位 论 文码的过程本质是信息压缩的过程，压缩代表着信息有所损失，先输入信息容易被后输入的信息稀释。为解决信息稀释这个问题，Attention来在模型输出时产生一个注意力范围，也就是注意力权重。将注意力间向量中，使得不同解码时刻对应不同的输入序列，根据新序列产生

图 3-2 基于 Attention 机制的“编码-解码”框架本文对 Attention 机制思想的描述主要基于文献[41]，并根据文献[42]把其原理应用到时间序列预测中。利用解码器进行解码时的映射函数如下：( ) ( )1 2 1 1, , , , ,,,t t t t t ty G c X y y y g y s c . (3-6)其中，每个解码时刻的中间状态是编码器中每时刻隐藏状态的加权平均值，定义如下：Tt tj jjc h. (3-7)每一时刻的隐藏层状态的系数由能量分数经过softmax层转换而得，定义如下：( )( )tjtj Ttkkexp eexp e . (3-8)以及能量分数由一个评分函数得到，该评分函数可以是一个前馈神经网络也可


本文编号：3535814