基于LSTM和社交媒体文本信息的股票趋势预测研究

发布时间：2020-09-28 13:58

　　随着中国市场经济的发展,证券市场在国民经济中的占据着越来越重要的地位,股票趋势预测也被越来越多的研究者关注。传统的预测模型受技术限制,多数围绕股票的历史数据本身展开,通过对股票历史数据进行建模,探究其潜在规律从而达到对股价未来趋势的变化预测的目的。然而这类预测方式并未考虑到其他会对股价产生影响的因素,如市场的宏观调控、公司的经营状况等。实际生活中,投资者在做出决定时并非完全理性,会受到社交媒体、新闻等影响,而当市场中大量投资者的对某一股票的进行买卖交易等行为时,这些信息也会对该股票价格产生影响,引起股市的变动。基于这一现象本文建立了一种基于LSTM和社交媒体文本信息的股票趋势预测模型,使用LSTM和自注意力机制对文本信息特征进行提取,与股票历史数据信息特征进行结合,以此来对股票趋势进行预测,该模型可显著提升股票短期预测模型的准确率。首先,本文构建了基于LSTM的股票趋势预测模型,该模型利用了LSTM模型便于处理时序数据的特点同时在此模型的基础上加入基本的社交媒体文本信息特征,以此来提高模型预测性能。LSTM模型是循环神经网络的一种,通过改良内部结构,解决了传统循环神经网络出现的梯度消失的问题。实验表明,LSTM模型可以有效的学习到股票历史数据中时序信息,在预测准确率方面高于传统的时间序列模型。针对传统股票趋势预测模型中忽略社交媒体文本信息对股价变化的影响,本文在预测模型的输入层面加入社交媒体文本信息特征。本文利用TF-IDF和Weighted Removal的方法提取文本特征信息,将文本特征信息与股票历史数据特征相结合,构建融合基本社交媒体文本信息的LSTM股票趋势预测模型,实验表明与基于LSTM的股票预测模型相比,该模型在准确率方面有进一步提升。然后,融合基本社交媒体文本信息的预测模型采用对帖子向量简单平均的方法得到文本信息特征,忽略了帖子时间顺序的信息,导致对社交媒体文本信息提取不够充分。针对这一问题,通过对文本信息提取方式的改进和信息源种类的增加,构建基于LSTM和深度社交媒体文本信息的预测模型。采用基于LSTM和自注意力机制模型提取社交媒体文本信息特征。先将帖子向量输入双向LSTM模型,在LSTM模型的隐藏状态层引入注意力机制,进一步分析与获取不同帖子对于最终预测的不同贡献程度。通过实验证明,融合深度社交媒体文本信息的股票趋势预测模型与融合基本社交媒体文本信息的LSTM股票趋势预测模型相比,在预测准确率上有显著的提升。在输入数据源层面,增加基本面数据,构建了基于多种信息源的LSTM预测模型。通过实验对比,改进模型预测准确率有进一步提升,证明了在一定程度下,增加数据源可以提升预测模型的性能。
【学位单位】：华中师范大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：TP391.1;F830.91
【部分图文】：

感知机,表示图,神经网络,多层感知机

２．２．１多层感知机逡逑多层感知机（ＭＬＰ）是人工神经网络的一种［４°］，是由感知机模型推广而来。感知逡逑机（ＰＬＡ）模型是一种二分类的线性分类模型，感知机的神经网络表示如图２．１所逡逑示：逡逑？逦二逦？邋ｆ邋逦？Ｏｕｔｐｕｔ逡逑图２．邋１感知机神经网络表示图逡逑感知机模型的将实力特征向量作为输入，类别为输出。感知机模型通过寻找将逡逑数据划分的分离超平面完成分类，所以感知机模型可以用来解决线性可分的二分类逡逑的问题，即将样本分为丨＋１，－１｝两类。分离超平面方程为：逡逑ｗ邋■邋ｘ邋＋邋ｂ邋＝邋０逡逑由输入空间到输出空间的函数：逡逑ｆ｛ｘ）邋＝邋ｓｉｇｎ邋（ｗ邋■邋ｘ邋＋邋ｂ）逡逑其中，Ｗ和６为感知机模型的参数，ｗｅ邋叫作权值（ｗｅｉｇｈｔ），邋ｂｅ尺叫作逡逑偏置，ｓｉｇｎ表示符号函数，即逡逑ｓｉｇｎ（ｘ）邋＝邋＼＋１，邋Ｘ￣°逡逑ｖ一１，ｘ邋＜邋０逡逑多层感知机模型相较于感知机模型

多层感知机,模型,隐层,分离超平面

内部结构

中ｘｔ表示在ｔ时刻的训练样本的输入；ｈｔ代表在ｔ时刻，模型的隐藏状态；和；Ｃｍ共同决定：逡逑ｈｔ邋＝邋ｆ｛ＵＸｔ邋＋邋ＷｈｔＪ逡逑、Ｗ和Ｖ是模型相关的线性关系参数，这些参数在隐层中是相互共享的。逡逑在ｔ时刻模型的输出；化与模型的当前隐藏状态＼有关：逡逑ｏｔ邋—邋Ｖｈｌ邋＋邋ｃ逡逑ｔ时刻模型的损失函数；ｙｔ代表ｔ时刻训练样本序列的真实输出。逡逑常用反向传播算法（ＢＰＴＴ）对循环神经网络模型（ＲＮＮ）进行训练，调整算法的本质是ＢＰ算法，因为ＲＮＮ处理时间序列的数据，所以需要基于播。ＢＰＴＴ算法的中心思想与ＢＰ算法相同，即沿着需要优化参数的福梯寻找更优点，直至模型收敛。逡逑长短期记忆神经网络逡逑期记忆神经网络（ＬＳＴＭ）很好的解决了长期以来问题，能够记住长期的。１９９６

【参考文献】