非凸正则化方法研究

发布时间：2020-08-31 16:24

　　 随着数字化时代的发展,各个学科和领域都收集到海量高维数据.面对收集到的大量数据,如何将其转化为可存储、便分析、能为解决实际问题提供参考的材料为现在所面临的一个巨大挑战.针对数据存储的现状,分布式存储方式应运而生.分布式存储是将数据集按照某种方式不重复的存储在不同的机器中,以此解决数据存储问题,这种存储方式在信息科学和医学等领域均己被广泛采用.解决存储问题后,如何设计和研究出适合于分布式数据存储方式的机器学习算法便成为另一大亟待解决的问题.伴随着信息技术理论的发展,正则化方法的提出和发展为我们处理和分析海量高维数据提供了有效工具,但其均适合于单机数据处理,即数据存于同一个机器中.鉴于非凸正则化对变量选择和特征提取的优越性,我们将分布式存储与非凸正则化方法相结合,关注基于分布式计算的非凸正则化方法,以此解决海量高维数据的存储和分析问题.本文各章内容结构组织如下:第一章:简单介绍分布式存储与各种机器学习算法的研究意义,研究背景以及当前的研究状况.第二章:研究分布式MCP正则化方法.基于ADMM算法提出分布式MCP算法并证明了它的收敛性.最后,通过模拟实验和真实数据实验,证明所提方法在处理海量分布式存储的数据的有效性.第三章:研究倒数L1正则化方法.基于重赋权迭代算法求解倒数L1正则化,然后通过稀疏信号重建实验验证倒数L1正则化的有效性和高效性.
【学位单位】：西北大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：C81
【部分图文】：

０邋０邋１１１逡逑ｙｌ邋０邋０逦１邋ｌｙ逡逑图２．１：实验１的邻接矩阵逡逑我们模拟了邋１００个数据集，每个数据集包含１００个观测值．我们分别应逡逑用Ｌａｓｓｏ和分布式ＭＣＰ处理这１００个数据集．其中，我们用ＬＡＲＳ求解心正则化．逡逑１６逡逑

逦５００逦６００逡逑图３．１：原始信号逡逑Ｚ５邋逦＇逦■逦．逦＇逦邋２．５邋逦１逦．逦１逦１逦．逦逡逑２逦２逡逑１．５逦Ｉ逦１．５逡逑Ｔｉｉ）逦ｌｌＪｉｉ－ｊｌｊ，邋１１１，＇，邋：逦ＴｉＪ逦Ｈ，：逡逑ｍｕ邋．逦．逡逑－１．５邋■逦Ｉ逦－１５邋－逦Ｉ逦－逡逑－２邋－逦－２邋－逦－逡逑－Ｚ５邋逦１逦１逦１逦１逦邋－２．５邋逦１逦１逦１逦１逦１逦逡逑０逦１００逦２００逦３００逦４００逦５００逦６００逦０逦１００逦２００逦３００逦４００逦５００逦６００逡逑图３．２：邋Ｋ＝１８４时Ｌａｓｓｏ算法的重建结果图３．

图３．１：原始信号逡逑

【相似文献】

相关期刊论文 前10条

1 T.Poggio;V.Torre;C.Koch;姚国正;;计算视觉和正则化理论[J];世界科学;1988年02期

2 程晋;不适定问题的TИХОНОВ正则化方法的改进[J];数学杂志;1989年01期

3 姚国正,汪云九;计算视觉及其正则化方法[J];信息与控制;1989年01期

4 张育红;;第一类Fredholm积分方程的正则化解法[J];河北师范大学学报;1989年04期

5 阮周生;徐定华;王泽文;;一类逆时反问题的改进正则化方法的收敛性[J];高等学校计算数学学报;2011年02期

6 高伟;于开平;盖晓男;;L_∞范数拟合正则化方法在飞行器动态载荷识别中的应用[J];振动与冲击;2017年09期

7 罗兴钧;用正则化方法求抛物型方程的数值解[J];赣南师范学院学报;2003年06期

8 刘思凡;王浩;胡耀华;;稀疏优化模型及其正则化方法[J];数学建模及其应用;2018年04期

9 翁云华;杜娟;;稀疏约束的正则化方法[J];淮阴师范学院学报(自然科学版);2016年01期

10 苗小楠;顾剑;肖现涛;;求解非光滑方程组的三次正则化方法[J];运筹学学报;2019年02期

相关会议论文 前10条

1 杨元喜;徐天河;;综合验前模型信息和验后观测信息的自适应正则化方法[A];《大地测量与地球动力学进展》论文集[C];2004年

2 魏素花;王双虎;许海波;;轴对称物体X射线层析成像的正则化方法[A];全国射线数字成像与CT新技术研讨会论文集[C];2012年

3 彭凡;王j;肖健;韦冰峰;;基于Tikhonov正则化方法实施动态载荷频域反求的一种新途径[A];第十五届全国非线性振动暨第十二届全国非线性动力学和运动稳定性学术会议摘要集[C];2015年

4 刘亚楠;郭建中;;基于正则化方法的超声断层成像重建[A];2012'中国西部声学学术交流会论文集(Ⅱ)[C];2012年

5 刘辉;陈至坤;;应用正则化方法重建锅炉二维温度场[A];冶金企业自动化、信息化与创新——全国冶金自动化信息网建网30周年论文集[C];2007年

6 杨超;陈进;李加庆;薛玮飞;;正则化方法在统计最优近场声全息中的应用[A];第九届全国振动理论及应用学术会议论文集[C];2007年

7 刘杰;韩旭;;基于多水平局部正则化方法的动态载荷识别[A];中国计算力学大会'2010（CCCM2010）暨第八届南方计算力学学术会议（SCCM8）论文集[C];2010年

8 王铁松;王振杰;;用吉洪诺夫正则化方法研究自由网平差问题[A];山东省测绘学术年会论文集[C];2006年

9 顾勇为;归庆明;韩松辉;;基于信噪比的正则化方法及其在GPS快速定位中的应用[A];第一届中国卫星导航学术年会论文集（下）[C];2010年

10 刘三明;冯恩民;;广义minmax问题的熵正则化方法和指数罚函数法之间的对偶性(英文)[A];第四届全国决策科学/多目标决策研讨会论文集[C];2007年

相关博士学位论文 前10条

1 许娜;均衡约束数学规划的正则化方法与数值实现[D];大连理工大学;2018年

2 王彦博;计算生物医学中的若干反问题[D];上海交通大学;2017年

3 刘焕香;核正则化回归学习和向量排序的收敛性分析及应用[D];浙江工商大学;2018年

4 席如冰;变分正则化模型与算法及其在多通道图像重构中的应用[D];国防科学技术大学;2015年

5 程炜;对称区域上几类热传导反问题的正则化方法[D];兰州大学;2007年

6 熊向团;抛物型偏微分方程中几类反问题的正则化理论及算法[D];兰州大学;2007年

7 钱志;数学物理反问题的正则化[D];兰州大学;2008年

8 邱春雨;几类反问题的正则化方法研究[D];兰州大学;2011年

9 卢艺烽;基于分数幂扰动的不适定问题的正则化方法[D];华中科技大学;2013年

10 黄漪;大规模离散不适定问题迭代正则化方法的研究[D];清华大学;2015年

相关硕士学位论文 前10条

1 康可可;两种X射线CT正则化重建方法[D];河南大学;2019年

2 孟茹月;基于自适应紧框架的轴对称物体正则化重建方法[D];河南大学;2019年

3 王格华;非凸正则化方法研究[D];西北大学;2019年

4 杨赵琪t

本文编号：2809047