广义交替方向乘子法的若干理论性研究

发布时间：2020-12-18 04:06

　　本文主要研究了求解两分块凸优化问题的广义Peaceman-Rachford分裂方法和求解三分块优化问题的广义交替方向乘子法.首先,由于原有的广义Peaceman-Rachford分裂方法并未对其收敛率作出分析,本文在原有的基础上,进一步补充了这方面的内容,在遍历和非遍历情况下,建立了广义Peaceman-Rachford分裂方法的最坏情形O（1/t）迭代复杂性.此外,通过数值实验来深入地阐述该算法的收敛速率.其次,在求解两分块凸优化问题的线性化广义交替方向乘子法基础上,将该算法推广到三块的情形.然而,对于求解三分块的优化问题,算法在不添加其他相关的条件下,无法保证它的收敛性.本文在目标函数的约束条件任意两个正交且加速因子有界时,证明了该算法是收敛的.基于上述条件,在遍历和非遍历情况下建立了该算法的最坏情形O（1/t）收敛率.进一步地,通过举出一个不满足上述条件的例子使得算法发散;数值实验表明,该算法在解一类矩阵优化问题时是一种有效的方法. 

【文章来源】：重庆师范大学重庆市

【文章页数】：60 页

【学位级别】：硕士

【部分图文】：

图２．１?ｃｖ和ｐ在不同取值下目标函数数值的变化??从图２．１可以看到，ａ趋近于２时的目标函数值比趋近于１时下降得块；同时通过给罚??

?２广义Ｐｅａｃｅｍａｎ－Ｒａｃｈｆｏｒｄ分裂法的迭代复杂性??实际上，图２．２中画出了罚参＃ａｃｐｕ时间之间的变化关系，其中７?ｅ?（０．１：０．９）．同时??可以看到ａ趋近１．２时比ａ趋近０．１所需迭代次数要少．??ＧＰＲＳＭ?Ｒｕｎｎｉｎｇ?Ｔｉｍｅ??２〇「????４．、、、?—ａ＝０．１??、－、?＿和－ｏｔ＝０．４??１６?＿?、＇?ａ＝０．７??１４－?、、、、?＾－０＝１．２??ｆ１２—?＼??卜－?＼、????？一？??…Ｓｓ???????????????????—??????????二二?■一?？????§．１?０２?＇?０．３?０．４?０．５?６＾?０７?０８?ａ９??Ｙ??图２．２不同ａ取值下ＣＰＵ时间和罚参的变化关系??然而实验中发现，当ａ大于１．２并逐渐趋近于２的过程中，该算法的收敛效果将变差，因??此将ａ的区间取定在（０：１．２］．与此同时，尽管与文献［１８］类似，实验中也考虑了罚参７在趋??近于０．９时的收敛效果会更好，但进一步地探讨了加速因子＾对算法收敛速度的影响．??２．３?．２矩阵优化问题??本节利用算法（１．２．５）来校正协方差矩阵．??首先考虑下面的矩阵优化问题．??ｍｉｎ?｛豆１１义?一?ＣＩｌｌ＇ＩＸ?ｅ?５＾?Ｈ?办｝，?（２．３．７）??其中??Ｓｌ＾｛Ｈ?ｅ?Ｒｎｘｎ＼ＨＪ?＝?Ｈ，Ｈｙ〇｝，??并且??Ｓｂ?＝?｛Ｈｅ?Ｒｎｘｎ＼ＨＴ?＝?Ｈ

?２广义Ｐｅａｃｅｍａｎ－Ｒａｃｈｆｏｒｄ分裂法的迭代复杂性??实际上，图２．２中画出了罚参＃ａｃｐｕ时间之间的变化关系，其中７?ｅ?（０．１：０．９）．同时??可以看到ａ趋近１．２时比ａ趋近０．１所需迭代次数要少．??ＧＰＲＳＭ?Ｒｕｎｎｉｎｇ?Ｔｉｍｅ??２〇「????４．、、、?—ａ＝０．１??、－、?＿和－ｏｔ＝０．４??１６?＿?、＇?ａ＝０．７??１４－?、、、、?＾－０＝１．２??ｆ１２—?＼??卜－?＼、????？一？??…Ｓｓ???????????????????—??????????二二?■一?？????§．１?０２?＇?０．３?０．４?０．５?６＾?０７?０８?ａ９??Ｙ??图２．２不同ａ取值下ＣＰＵ时间和罚参的变化关系??然而实验中发现，当ａ大于１．２并逐渐趋近于２的过程中，该算法的收敛效果将变差，因??此将ａ的区间取定在（０：１．２］．与此同时，尽管与文献［１８］类似，实验中也考虑了罚参７在趋??近于０．９时的收敛效果会更好，但进一步地探讨了加速因子＾对算法收敛速度的影响．??２．３?．２矩阵优化问题??本节利用算法（１．２．５）来校正协方差矩阵．??首先考虑下面的矩阵优化问题．??ｍｉｎ?｛豆１１义?一?ＣＩｌｌ＇ＩＸ?ｅ?５＾?Ｈ?办｝，?（２．３．７）??其中??Ｓｌ＾｛Ｈ?ｅ?Ｒｎｘｎ＼ＨＪ?＝?Ｈ，Ｈｙ〇｝，??并且??Ｓｂ?＝?｛Ｈｅ?Ｒｎｘｎ＼ＨＴ?＝?Ｈ


本文编号：2923320