混合矩阵回归模型的线性化乘子交替方向法

发布时间：2020-09-02 17:25

　　 随着大数据时代的到来,我们面临的数据越来越复杂,矩阵形式的数据问题亟待解决.在这类问题中,我们需要去估计一个矩阵形式的变量.Zhou和Li[12]在2014年提出了矩阵回归模型的概念,但他们的研究主要集中于矩阵数据的低秩模型,并没有考虑含有向量变量模型的求解.因此我们考虑同时含有矩阵变量和向量变量的混合矩阵回归模型.在模型中,对矩阵数据考虑低秩性,对向量变量考虑稀疏性及一阶变差的稀疏性.为了使得混合矩阵回归模型切实可行,我们提出了一种线性化的乘子交替方向法(LADMM),并建立了此算法的全局收敛性.进一步,我们进行了一些数值实验来展示算法的数值效果.
【学位单位】：北京交通大学
【学位级别】：硕士
【学位年份】：2018
【中图分类】：O212.1
【部分图文】：

图３．１：软阈值算子与硬阈值算子．逡逑Ｆｉｇ３．１：邋Ｓｏｆｔ邋ｔｈｒｅｓｈｏｌｄ邋ａｎｄ邋ｈａｒｄ邋ｔｈｒｅｓｈｏｌｄ．逡逑值算子（矩阵）逡逑＞３邋＞邋０，邋ｃ邋ｅ邋５１＂＇则矩阵优化问题逡逑成｛＂爆＋邋ｆ｜ｖｅｃ（ｆｉ）＿４Ｂ邋＝邋ｆ／ｓｈｒｉｎｋ（0－，邋ｌ／ｙＳ）ＶＴ，别为阶的正交矩阵，（ｒ是Ｍ的奇异值，即Ｍ邋＝逦维向量ｃ按列生成的ｍ邋ｘ邋＾维矩阵，记此运算为Ｍ邋＝邋Ｍａｔ（ｃ）Ｍ）．逡逑｜｜ｖｅｃ（５）邋－逦＝丨｜５邋－邋Ｍ咕，其中Ｍ邋＝邋Ｍａｔ（ｃ）．于是问题（３．３）

为测试集上的样本，ｎ，？，为测试集的样本量．ＣＰＵ间（秒），每一项括号中的数字为对应项在这１００次试验中的标表４．１：表１衰／？邋＝邋１时，算法１的试验结果．逡逑Ｔａｂｌｅ邋４．１：邋Ｔｈｅ邋ｎｕｍｅｒｉｃａｌ邋ｒｅｓｕｌｔｓ邋ｏｆ邋Ａｌｇｏｒｉｔｈｍ邋１邋ｆｏｒ邋／？邋＝邋１．逡逑疏度邋４％）逦ＲＭＳＥ－５逦ＲＭＳＥ－ｙ逦ＲＭＳＥ－ＰＲＥ１逦０．２３１２（０．００６８）逦０．０５３７（０．０２５０）逦０．２３２１（０．００６１）５逦０．２９８６（０．００６０）逦０．０７９７（０．０１９２）逦０．３１１６（０．０１５５）１０逦０．３９７２（０．００３６）逦０．０７３２（０．０２９５）逦０．４０３３（０．００８１）表４．２：表２当／？邋＝邋５时，算法１的试验结果．逡逑Ｔａｂｌｅ邋４．２：邋Ｔｈｅ邋ｎｕｍｅｒｉｃａｌ邋ｒｅｓｕｌｔｓ邋ｏｆ邋Ａｌｇｏｒｉｔｈｍ邋１邋ｆｏｒ邋Ｒ邋＝邋５．逡逑疏度■？（％）逦ＲＭＳＥ－５逦ＲＭＳＥ－ｙ逦ＲＭＳＥ－ＰＲＥ１逦０．２０２９（０．００８４）逦０．０４５９（０．０２３７）逦０．２０６６（０．０１４７）５逦０．２７４５（０．００８３）逦０．０９００（０．０１８５）逦０．２８８４（０．０１４７）１０逦０．４０２３（０．００５１）逦０．０９０７（０．０２７５）逦０．４０４２（０．０１３０）

图４．２：邋ＲＭＳＥ－ｙ的箱线图．逡逑Ｆｉｇ４．２：邋Ｔｈｅ邋ｂｏｘｐｌｏｔ邋ｏｆ邋ＲＭＳＥ－ｙ．逡逑

【相似文献】

相关期刊论文 前10条

1 胡伯霞;非对称变分不等式的另一类非精确交替方向法[J];衡阳师范学院学报;2005年03期

2 何炳生;;乘子交替方向法的一些收敛性质[J];高等学校计算数学学报;2017年01期

3 周叔子;胡伯霞;;一类非对称变分不等式的非精确交替方向法[J];湖南大学学报(自然科学版);2007年04期

4 刘晓遇;解对流扩散方程的显式交替方向法[J];清华大学学报(自然科学版);1999年12期

5 刘田园;;凸两分块问题邻近乘子交替方向法的O(1/n)收敛率[J];玉林师范学院学报;2017年02期

6 李慧;;解凸优化问题的一类修正线性近似交替方向法[J];重庆工商大学学报(自然科学版);2015年04期

7 吕晓帆;李姣芬;周学林;;非精确交替方向法求解秩最小化问题[J];桂林电子科技大学学报;2016年02期

8 孙聿童;赵金玲;;求解结构型分裂可行问题的一种交替方向法[J];数值计算与计算机应用;2018年01期

9 康金章;交替方向法迭代参数的确定[J];福州大学学报;1962年02期

10 何炳生;;我和乘子交替方向法20年[J];运筹学学报;2018年01期

相关会议论文 前1条

1 李敏;何炳生;;求解带约束的min-max问题的预测校正交替方向法[A];2006年中国运筹学会数学规划分会代表会议暨第六届学术会议论文集[C];2006年

相关博士学位论文 前10条

1 王金江;乘子交替方向法与函数二阶增长条件[D];哈尔滨工业大学;2016年

2 晁绵涛;带回代乘子交替方向法与误差界研究[D];北京工业大学;2015年

3 郭科;非凸优化问题Douglas-Rachford分裂方法的收敛性分析[D];南京师范大学;2017年

4 贾泽慧;优化问题分裂算法及早高峰拥堵问题研究[D];南京师范大学;2017年

5 张文星;增广拉格朗日型算法及其在图像处理中的应用[D];南京大学;2012年

6 王学永;变分不等式与线性约束分离优化问题的若干算法研究[D];重庆大学;2015年

7 罗曼;偏积分微分方程拟小波及紧致差分方法[D];湖南师范大学;2016年

8 胡亚萍;非线性单调方程组和非光滑优化问题的算法研究[D];华东理工大学;2015年

9 申远;一些求解结构型优化的一阶算法[D];南京大学;2012年

10 刘晓光;非光滑图像恢复算法的研究[D];陕西师范大学;2014年

相关硕士学位论文 前10条

1 郭绮;混合矩阵回归模型的线性化乘子交替方向法[D];北京交通大学;2018年

2 黎财胜;求解三块可分非凸优化问题的交替方向法[D];南京师范大学;2018年

3 戴艺清;几类可分离凸优化问题的同伦算法[D];福州大学;2016年

4 孙康康;小批量数据的随机交替方向法研究[D];南京大学;2018年

5 王慧芳;线性化乘子交替方向法求解稀疏组最小一乘模型[D];北京交通大学;2017年

6 金天;具有大步长邻近点的对称交替方向法的收敛性研究[D];南京大学;2017年

7 曹冰;解可分离变分不等式的一种自适应交替方向法[D];河北工业大学;2015年

8 龙林鹤;解可分离结构型变分不等式的LQP交替方向法[D];重庆大学;2016年

9 邓钊;非凸非光滑分块优化问题Bregman乘子交替方向法收敛性分析[D];广西大学;2017年

10 张环;Fused-LASSO惩罚最小一乘回归的统计分析与优化算法[D];北京交通大学;2016年

本文编号：2810890