轻量型视网膜编码模型研究

发布时间：2021-01-18 21:03

　　随着手机等移动终端对计算机视觉需求的不断增加,如何高效编码视觉信号成为人们关注的焦点。作为一种编码视觉信号的模型,视网膜编码模型以模拟视网膜神经节细胞特性为目标,利用非线性计算将视觉刺激编码成一系列尖峰放电序列。虽然现存多种视网膜编码模型,但现有模型存在简单模型拟合效果差、复杂模型计算量大的问题。为解决上述问题,本文展开轻量化视网膜编码模型研究。本文主要内容如下:（1）首先,针对Spike-triggered Average方法获得细胞感受野所需数据量大的问题,本文提出一种基于时空滤波器提取细胞感受野的方法,该方法可以有效减少提取感受野所需数据量。其次,针对现有视网膜编码模型参数多、计算量大的问题,本文提出一种基于深度可分离卷积的轻量型视网膜编码模型,该模型由两个深度可分离卷积模块与一个密集连接层组成,每一个深度可分离卷积模块包含两个深度可分离卷积层。相比于基于线性非线性的视网膜编码模型、基于广义线性的视网膜编码模型以及基于卷积神经网络的视网膜编码模型,本文提出的基于深度可分离卷积的轻量型视网膜编码模型具有模型参数少、训练过程稳定、预测精度高的特点。（2）针对单一视网膜编码模型鲁棒性较... 

【文章来源】：西安电子科技大学陕西省 211工程院校 教育部直属院校

【文章页数】：82 页

【学位级别】：硕士

【部分图文】：

tanh与sigmoid正反向传播示例

西安电子科技大学硕士学位论文 ) × = 个参数，计算量为 × × × × × = × 。而通道倍数为 1 的深度可分离卷积层中需要 × × （ × × × = 个参数,计算量为 × × × × × × × = 。深度可分离卷积与经典卷积的参数量之比为 0.13，计算量之比 0.13。可以看该结构不仅实现了空间与时间相关性的退耦合，减少了模型学习空间-时间弱关联号特征的难度，而且显著减少了模型的参数与计算量。提高模型的编码效率。3.2.2 激活函数的选择与卷积层结构优化由于激活函数是模型中非线性计算的关键，所以不同激活函数对模型性能有不影响。本文中介绍了 ReLU、PReLU、SELU 三种激活函数的特性以及作用。（1）激活函数的选择

图3.4 SELU 与 LReLU 正反向传播示例从图 3.3 可知，ReLU，LReLU，PReLU 都能抑制负信号的传递，减少该层的方差，防止梯度爆炸，但负半轴梯度输出固定值的结构不利于神经元差异化更新。如图 3.所示，指数缩放线性单元（SELU）不仅保留了 PReLU 在正信号传导的优势，防止了梯度消失，而且在训练过程中抑制并清晰的表示了负信号的差异，使得网络可以根据不同的梯度有选择的调整神经元权重，有助于更新网络的稳定性。SELU[36]计算过程如公式（3 -3）所示 ( ) = × ≤ （3 -3）SELU 的作者 Gunter 表明：该激活函数可以使样本分布自动归一化到均值为 0 与方差位 1 的分布，在网络训练过程中起到标准化样本的作用。自归一化的特性与大于 的放大系数保证训练过程中梯度不会爆炸或消失。SELU 激活函数的引入在一定程度上可以代替计算量较大的 BN 层，减少了模型的计算量，提高网络训练速度。

【参考文献】：
硕士论文
[1]基于时空滤波器的视网膜编码模型[D]. 牛希娴.上海交通大学 2008



本文编号：2985668