基于堆叠式自编码器的新型分子毒性预测模型
发布时间:2021-03-30 23:52
本文提出了一种新型的分子毒性预测模型,采用堆叠式自编码器(SAE)对高维的稀疏数据进行特征提取,而后对分类器进行改进,使用胶囊网络作为分类器进行毒性预测分类,为了证明该模型的有效性,我们将SAE+CAPS与传统的softmax分类器和SAE+softmax分类器进行了对比,实验结果表明相较于另外两种模型而言该模型拥有更高的性能。
【文章来源】:电子技术与软件工程. 2020,(15)
【文章页数】:2 页
【部分图文】:
SAE+CAPS结构
堆叠式自动编码器(SAE)由多个层组成,每个层由单个AE学习。在无监督特征提取中,采用贪婪式分层预训练进行逐层初始化,通过微调来训练最终的SAE模型。具体来说,贪婪式分层方法是原始输入数据通过在第一层AE上的训练,得到第一级的特征,然后将第一级的特征作为输入在第二层AE训练得到下一级的特征,一直到最后一层的AE,最终可以得到信息充分、维数较低的特征提取。因此,自编码器的叠加可以实现对原始数据的特征提取,同时可以达到降维的效果得到维数较低的特征。上述过程是SAE的与训练过程,这个过程中可以实现特征的提取,但是并不具备分类功能,因此通常在SAE后添加一个分类器来达到预测分类的效果。在预训练完成后应用反向传播算法,利用随机梯度下降算法对整个SAE进行微调,堆叠式自编码器(SAE)的结构图如图1所示。图2:胶囊网络的机构
胶囊网络的机构
本文编号:3110372
【文章来源】:电子技术与软件工程. 2020,(15)
【文章页数】:2 页
【部分图文】:
SAE+CAPS结构
堆叠式自动编码器(SAE)由多个层组成,每个层由单个AE学习。在无监督特征提取中,采用贪婪式分层预训练进行逐层初始化,通过微调来训练最终的SAE模型。具体来说,贪婪式分层方法是原始输入数据通过在第一层AE上的训练,得到第一级的特征,然后将第一级的特征作为输入在第二层AE训练得到下一级的特征,一直到最后一层的AE,最终可以得到信息充分、维数较低的特征提取。因此,自编码器的叠加可以实现对原始数据的特征提取,同时可以达到降维的效果得到维数较低的特征。上述过程是SAE的与训练过程,这个过程中可以实现特征的提取,但是并不具备分类功能,因此通常在SAE后添加一个分类器来达到预测分类的效果。在预训练完成后应用反向传播算法,利用随机梯度下降算法对整个SAE进行微调,堆叠式自编码器(SAE)的结构图如图1所示。图2:胶囊网络的机构
胶囊网络的机构
本文编号:3110372
本文链接:https://www.wllwen.com/yixuelunwen/swyx/3110372.html