蓄水池算法研究与时间序列预测应用
发布时间:2021-10-09 11:49
时间序列预测作为一项有挑战性的任务,吸引了许多领域的研究人员深入研究。现阶段,有很多新的时序预测模型被提出,同时现有的模型也不断被修改。这些研究的目的都是为了达到较高的预测准确性。随着机器学习和深度学习的进步和发展,深度学习逐渐替代传统模型,成为时序预测的主流方法。该方法的出现使时序预测达到了更高的准确率,与此同时,此类方法仍在不断被改进,以解决更为复杂的时序分析问题。本文以RNN和ESN的理论为基础,结合复杂网络的相关知识,提出一种新的蓄水池计算模型,用于预测非线性时序系统。本文将提出的蓄水池计算模型分别应用在单一维度和多维度的时间序列预测中。模型主要由三个部分构成:输入层,蓄水池计算网络和输出层。输入层为全连接网络,其权重在训练过程中一直保持初始值,不再更新。输出层也为全连接网络,与输入层不同,训练过程中主要训练该网络的权重。位于两个全连接网络中间的蓄水池计算网络可由三种网络构成,分别为随机网络,无标度网络和小世界网络。除了蓄水池网络本身的权重矩阵外,模型还引入了网络节点状态向量,该状态向量结合权重矩阵的结构特点不断更新,然后输入到输出层,最终的输出结果由输入数据和网络节点状态值共...
【文章来源】:电子科技大学四川省 211工程院校 985工程院校 教育部直属院校
【文章页数】:94 页
【学位级别】:硕士
【图文】:
论文结构图
电子科技大学硕士学位论文8第二章相关理论和技术本章对蓄水池计算的工作原理进行了详细的介绍,其中包括模型的状态参数更新机制和储层网络的结构控制。在本章中,讨论了ER,SF和SW三种网络的生成原理和方式。由于不同的蓄水池计算模型适用于不同的时间序列,因此本章还在介绍通用方法的基础上,整理阐述了创新环节所依赖的相关理论。2.1蓄水池计算对于大多数的深度学习模型来说[55],训练权重矩阵的计算量非常大。与这些训练所有权值矩阵的神经网络不同,蓄水池计算体系结构只需要训练输出权重网络,而输入网络和蓄水池计算网络却不需要训练。蓄水池计算模型最初以ESN[56]和LSM[6]的形式引入,并在多种高维时域应用中取得了成功[4,5,57,58]。由于储层的动态性,蓄水池计算模型可在物理储层[59]中实现,该硬件结构使用的是光子系统[60]或动态忆阻器[61]。图2-1标准蓄水池计算示意图标准蓄水池计算模型的主要结构如图2-1所示。在图2-1中,将输入层的输入向量投影到蓄水池网络中,从输出层读出输出向量。和两者都是未经训练的,而只有参与训练。在t时刻,非线性节点网络作为蓄水池网络,提供了一个维输入向量tx到另一个维输出向量的非线性映射。在蓄水池网络内部,内部节点相互连接构成有向网络,其中网络的连通性被描述为邻接矩阵∈×,其中=||为蓄水池网络的大校权重矩阵中的每个元素是随机初始化的,在训练期间保持不变。输入层是输入向量和蓄水池网络内部节点之间的全连接层。同样,输出层也是与输出向量和蓄水
电子科技大学硕士学位论文10SW网络,将这三种复杂网络作为蓄水池计算网络的基本结构。为了更有效地生成结构,本文使用PythonNetworkx包作为网络生成器。ER网络是在1960年的一篇论文中提出的[63]。ER网络是一种复杂网络,在早期已经有了大量的研究。ER网络是大多数随机网络的基础,它的每个节点用于替代蓄水池计算网络中的神经元。作为一个图形模型(,),是网络的节点数量,为两个节点间建立一条边的概率。网络是有向图,因此蓄水池计算网络的权重同等于ER网络的邻接矩阵。在ER网络中,建立M条边的概率相等,分别为:(1)(2-6)如图2-2所示,生成了大小相同,参数不同的ER网络。网络呈现出建边概率越高,网络密度就越高的特性。(a)N=20,p=0.02(b)N=20,p=0.05(c)N=20,p=0.08图2-2不同参数下的ER网络基本图SF是无标度(ScaleFree)的缩写。SF网络是由Barabasi和Albert在1999年提出的[64]。无标度网络有两个基本特征,一是网络可以通过增加新的顶点来不断扩展,另一个是新的顶点优先连接到已经存在连接的顶点上。这两个特征导致大多数顶点只有几个连接,而一些顶点与其他顶点存在大量的连接,而这些具有大量连接的顶点可能有数百个、数千个甚至数百万个连接。要生成SF网络,需要设置三个参数。节点数设为N。根据度分布,随机选择一个现有节点,加入一个新节点的概率为;根据度分布,随机选择一个现有节点,两个现有节点之间的增加一条边的概率为;根据度分布,随机选择一个现有节点,加入一个新节点的概率。有向图允许两点之间有多条边,图中存在循环的情况。上述参数限制如下:++=1(2-7)Barabasi和Albert无标度网络是一个特例:==0(2-8)=1(2-9)
本文编号:3426314
【文章来源】:电子科技大学四川省 211工程院校 985工程院校 教育部直属院校
【文章页数】:94 页
【学位级别】:硕士
【图文】:
论文结构图
电子科技大学硕士学位论文8第二章相关理论和技术本章对蓄水池计算的工作原理进行了详细的介绍,其中包括模型的状态参数更新机制和储层网络的结构控制。在本章中,讨论了ER,SF和SW三种网络的生成原理和方式。由于不同的蓄水池计算模型适用于不同的时间序列,因此本章还在介绍通用方法的基础上,整理阐述了创新环节所依赖的相关理论。2.1蓄水池计算对于大多数的深度学习模型来说[55],训练权重矩阵的计算量非常大。与这些训练所有权值矩阵的神经网络不同,蓄水池计算体系结构只需要训练输出权重网络,而输入网络和蓄水池计算网络却不需要训练。蓄水池计算模型最初以ESN[56]和LSM[6]的形式引入,并在多种高维时域应用中取得了成功[4,5,57,58]。由于储层的动态性,蓄水池计算模型可在物理储层[59]中实现,该硬件结构使用的是光子系统[60]或动态忆阻器[61]。图2-1标准蓄水池计算示意图标准蓄水池计算模型的主要结构如图2-1所示。在图2-1中,将输入层的输入向量投影到蓄水池网络中,从输出层读出输出向量。和两者都是未经训练的,而只有参与训练。在t时刻,非线性节点网络作为蓄水池网络,提供了一个维输入向量tx到另一个维输出向量的非线性映射。在蓄水池网络内部,内部节点相互连接构成有向网络,其中网络的连通性被描述为邻接矩阵∈×,其中=||为蓄水池网络的大校权重矩阵中的每个元素是随机初始化的,在训练期间保持不变。输入层是输入向量和蓄水池网络内部节点之间的全连接层。同样,输出层也是与输出向量和蓄水
电子科技大学硕士学位论文10SW网络,将这三种复杂网络作为蓄水池计算网络的基本结构。为了更有效地生成结构,本文使用PythonNetworkx包作为网络生成器。ER网络是在1960年的一篇论文中提出的[63]。ER网络是一种复杂网络,在早期已经有了大量的研究。ER网络是大多数随机网络的基础,它的每个节点用于替代蓄水池计算网络中的神经元。作为一个图形模型(,),是网络的节点数量,为两个节点间建立一条边的概率。网络是有向图,因此蓄水池计算网络的权重同等于ER网络的邻接矩阵。在ER网络中,建立M条边的概率相等,分别为:(1)(2-6)如图2-2所示,生成了大小相同,参数不同的ER网络。网络呈现出建边概率越高,网络密度就越高的特性。(a)N=20,p=0.02(b)N=20,p=0.05(c)N=20,p=0.08图2-2不同参数下的ER网络基本图SF是无标度(ScaleFree)的缩写。SF网络是由Barabasi和Albert在1999年提出的[64]。无标度网络有两个基本特征,一是网络可以通过增加新的顶点来不断扩展,另一个是新的顶点优先连接到已经存在连接的顶点上。这两个特征导致大多数顶点只有几个连接,而一些顶点与其他顶点存在大量的连接,而这些具有大量连接的顶点可能有数百个、数千个甚至数百万个连接。要生成SF网络,需要设置三个参数。节点数设为N。根据度分布,随机选择一个现有节点,加入一个新节点的概率为;根据度分布,随机选择一个现有节点,两个现有节点之间的增加一条边的概率为;根据度分布,随机选择一个现有节点,加入一个新节点的概率。有向图允许两点之间有多条边,图中存在循环的情况。上述参数限制如下:++=1(2-7)Barabasi和Albert无标度网络是一个特例:==0(2-8)=1(2-9)
本文编号:3426314
本文链接:https://www.wllwen.com/shoufeilunwen/benkebiyelunwen/3426314.html