多目标优化问题的标量化方法及其在机器学习中的应用
发布时间：2021-10-09 23:33
近年来,作为最优化理论及应用研究中一个非常重要的方向,多目标优化发展非常迅速,已成为最优化领域的研究热点.标量化方法是处理多目标优化问题的基本方法之一.对多目标优化问题各类解的标量化方法及其标量化性质的深入研究不仅将为设计求解多目标优化问题的高效算法和应用多目标优化模型与方法解决经济管理、工程设计、交通运输、生态保护以及最优决策等诸多领域中的很多实际问题提供重要理论基础和技术支撑,同时也将促进多目标优化理论与方法本身的发展.本文主要致力于多目标优化问题解的标量化性质及其应用研究.主要包括多目标优化问题精确解的一些等价标量化刻画,利用标量化方法给出多目标优化问题近似解的一些充分条件和必要条件以及基于标量化方法的机器学习中正则化模型的重构及其应用三个方面的研究.本文共分为五章,主要内容如下:第一章简要叙述多目标优化理论、方法及其应用研究的背景和重要意义,对多目标优化问题的精确解定义、近似解定义、各类精确解与近似解的标量化性质、多目标优化问题与机器学习,特别是稀疏优化问题的正则化方法及其应用等与本文密切相关的研究方向的发展历史与研究现状进行综述,进而提出本文所要研究的主要内容.第二章研究多目...
【文章来源】：上海大学上海市 211工程院校
【文章页数】：133 页
【学位级别】：博士
【部分图文】：
图２．１：?（ＭＯＰ）的目标函数图像??
上海大学博士学位论文?２９??２．５?＊?＊?？?＾??２，?ＷＳＢＢＳＳＢＢＥ??１．５?？?ｆ（Ｓ）??１??Ｊ??０．５?（（ｌ，ｌ）－ｉｎｔ?／？ｉ）ｎ杷?？??°０?０．５?１?１．５?２?２．５??图２．２：?（ＭＯＰ）函数图像与序锥在非负象限的关系示意图．??显然，该双目标优化问题是凸多目标优化模型且由弱有效解定义和图２．２可??知，（ＭＯＰ）的弱有效解集为??｛（ｘ１（ｊｃ２）?ｅ?Ｒ２｜ｘｔ?＝?１，１?＜?ｘ２?＜?２｝?Ｕ?｛（ｘｊ，?ｘ２）?ｅ?Ｒ２｜ｌ?＜?ｘｉ?＜?２，?ｘ２?＝?１｝．??令５?＝?０．１，ｘ?＝?（１，２），?？?＝?（１，１）且７?＝?（２，１）．类似于例２．３的分析可知，不存??在ｏｒ?＋?士，０?，?／３?ｅ軾和０使得（瓦ｉ）是（ＳＯＰ）；＾关于／／?ｅ?的最优解．??注２．６由注２．４、例２．３、注２．５和例２．４可知，假设条件７?２?／（幻在定理２．６中非??常重要．然而，这一假设条件对于定理２．５来说却不是必须的．例如，考虑例２．４中??的多目标优化问题，令??６?＝?０．１，？?＝?（２，１），７?＝?（２，０．５），?ａ?＝?０，＞３，?＝?—ｐ＝ｒ￣—．?／＊?＝?（１．１），?＝?（〇，?０．５）．??ｆｉ（ｘ）?￣?ｆ，??则可以验证（瓦？）是（Ｓ０Ｐ）＾ｇ７Ｍ的最优解且？是（ＭＯＰ）的弱有效解．??事实上，若（ＭＯＰ）存在绝对最优解：ｃＺ?ｅ心则我们可获得（ＭＯＰ）的弱有效解??的另一标量化结果．??定理２．７假设ｘ?ｅ?Ｓ．若（ＭＯＰ）在Ｓ中存在绝对最优解忒则沄是（ＭＯＰ）的弱有??效解当且仅当存在＜?ａ幺０，０?ｅ把
上海大学博士学位论文?３７??２０?＊????????２０?１?１?．?１?．???：：：＼?Ｖ?：?Ｊ：?＼?＾??＼?ｅ?＾?＼?（６：ｌ＾）－ｉＤｔ?Ｒ％??：ｙ＜＾ｒ?：?ｓ?＼??－５１???１?＇?１??ＨＨ?．??？４?－２?０?２?４?６?－４?－２?０?２?４?６?８??＾?ｆｉ（ｘ）??（ａ）目标函数与自变置?（ｂ）像集与序锥??图２．３：?（ＭＯＰ）的目标函数图像??由（ＭＯＰ）的真有效解的定义以及图２．３可得，（ＭＯＰ）的真有效解集为［－３，?１）．此??夕卜，，丨？?＝?－２＿＆／２＊＝－５．令??，ｘ?＝?１，０－＝－－，＾．?＝?（／－Ｉ（／（ｘ）－／＊）），?＝?Ｕ＾（ｆ（ｘ）￣ｒ））２??＝?１．Ｗ?＝?〇＞＾１?＝?１．＾２?＝０，７１?＝?ｆ＼（ｘ）￣?１，７２?＝?ｆ２＜ｊ）－??则（Ｓ〇ｐ）ｉａｉＭ的可行域为??ｊ（ｊｃ，?ｓ）?ｅ?Ｓ?ｘＲ２＼ｆｉ（ｘ）?－?ｓｉ?＜?ｆ＼（ｘ）￣?ｌ．ｘｅ?［ｌ，４］，ｓ?＾?〇）．??进一步，我们可以验证（又习是（ＳＯＰ）；ｇ７Ｍ的最优解？显然，（＾５）是（ＳＯＰ）＾＾的??可行解．此外，由／Ｋｘ）和／２〇ｃ）的定义以及引理２．１可知，对任意的；ｃ?ｅ?［１，４］，??Ｐ＼?｛Ｑｘ｛Ｒｘ）－ｎ）ｘ?＞ａ?（ｉ；＼ｆｃｘ）－ｎ＼?＝?ｉ．??ｊ３２?（ｉ－＼ｎｘ）?－?ｎ）２?＞／３２?（ｉ－＼／（ｘ）?－?ｒ?＞）２?＝?ｉ．??这表明丨丨／⑵－尸喝２?１，Ｖ；ｃ?ｅ?［１，４］．故对（Ｓ〇Ｐ）ｋ＾的任意可行点，均有??ｉｉ／ｗ?－?／％?＾Ｓ２?＞?２?＝?ｙｓ，?－
【参考文献】：
期刊论文
[1]向量优化问题的线性标量化方法和Lagrange乘子研究[J]. 杨新民,陈光亚. 中国科学:数学. 2020(02)
[2]A new piecewise quadratic approximation approach for L0 norm minimization problem[J]. Qian Li,Yanqin Bai,Changjun Yu,Ya-xiang Yuan. Science China（Mathematics）. 2019(01)
[3]新的非线性分离定理及其在向量优化中的应用[J]. 赵克全,戎卫东,杨新民. 中国科学:数学. 2017(04)
[4]Multi-objective optimization of cooling air distribution of grate cooler with different inlet temperatures by using genetic algorithm[J]. SHAO Wei,CUI Zheng,CHENG Lin. Science China（Technological Sciences）. 2017(03)
[5]Second order duality for multiobjective programming with cone constraints[J]. TANG Li Ping,YAN Hong,YANG Xin Min. Science China（Mathematics）. 2016(07)
[6]Higher-order Mond-Weir converse duality in multiobjective programming involving cones[J]. YANG XinMin,YANG Jin,YIP Tsz Leung,TEO Kok Lay. Science China（Mathematics）. 2013(11)
[7]L1/2 regularization[J]. XU ZongBen 1 , ZHANG Hai 1,2 , WANG Yao 1 , CHANG XiangYu 1 & LIANG Yong 3 1 Institute of Information and System Science, Xi’an Jiaotong University, Xi’an 710049, China;2 Department of Mathematics, Northwest University, Xi’an 710069, China;3 University of Science and Technology, Macau 999078, China. Science China（Information Sciences）. 2010(06)
[8]集值映射向量优化问题的ε-超有效解（英文）[J]. 凌晨. 运筹学学报. 2001(03)
[9]集值映射向量优化问题的ε-真有效解（英文）[J]. 戎卫东,马毅. 运筹学学报. 2000(04)
[10]Benson真有效解与Borwein真有效解的等价性[J]. 杨新民. 应用数学. 1994(02)
本文编号：3427200
【文章来源】：上海大学上海市 211工程院校
【文章页数】：133 页
【学位级别】：博士
【部分图文】：
图２．１：?（ＭＯＰ）的目标函数图像??
上海大学博士学位论文?２９??２．５?＊?＊?？?＾??２，?ＷＳＢＢＳＳＢＢＥ??１．５?？?ｆ（Ｓ）??１??Ｊ??０．５?（（ｌ，ｌ）－ｉｎｔ?／？ｉ）ｎ杷?？??°０?０．５?１?１．５?２?２．５??图２．２：?（ＭＯＰ）函数图像与序锥在非负象限的关系示意图．??显然，该双目标优化问题是凸多目标优化模型且由弱有效解定义和图２．２可??知，（ＭＯＰ）的弱有效解集为??｛（ｘ１（ｊｃ２）?ｅ?Ｒ２｜ｘｔ?＝?１，１?＜?ｘ２?＜?２｝?Ｕ?｛（ｘｊ，?ｘ２）?ｅ?Ｒ２｜ｌ?＜?ｘｉ?＜?２，?ｘ２?＝?１｝．??令５?＝?０．１，ｘ?＝?（１，２），?？?＝?（１，１）且７?＝?（２，１）．类似于例２．３的分析可知，不存??在ｏｒ?＋?士，０?，?／３?ｅ軾和０使得（瓦ｉ）是（ＳＯＰ）；＾关于／／?ｅ?的最优解．??注２．６由注２．４、例２．３、注２．５和例２．４可知，假设条件７?２?／（幻在定理２．６中非??常重要．然而，这一假设条件对于定理２．５来说却不是必须的．例如，考虑例２．４中??的多目标优化问题，令??６?＝?０．１，？?＝?（２，１），７?＝?（２，０．５），?ａ?＝?０，＞３，?＝?—ｐ＝ｒ￣—．?／＊?＝?（１．１），?＝?（〇，?０．５）．??ｆｉ（ｘ）?￣?ｆ，??则可以验证（瓦？）是（Ｓ０Ｐ）＾ｇ７Ｍ的最优解且？是（ＭＯＰ）的弱有效解．??事实上，若（ＭＯＰ）存在绝对最优解：ｃＺ?ｅ心则我们可获得（ＭＯＰ）的弱有效解??的另一标量化结果．??定理２．７假设ｘ?ｅ?Ｓ．若（ＭＯＰ）在Ｓ中存在绝对最优解忒则沄是（ＭＯＰ）的弱有??效解当且仅当存在＜?ａ幺０，０?ｅ把
上海大学博士学位论文?３７??２０?＊????????２０?１?１?．?１?．???：：：＼?Ｖ?：?Ｊ：?＼?＾??＼?ｅ?＾?＼?（６：ｌ＾）－ｉＤｔ?Ｒ％??：ｙ＜＾ｒ?：?ｓ?＼??－５１???１?＇?１??ＨＨ?．??？４?－２?０?２?４?６?－４?－２?０?２?４?６?８??＾?ｆｉ（ｘ）??（ａ）目标函数与自变置?（ｂ）像集与序锥??图２．３：?（ＭＯＰ）的目标函数图像??由（ＭＯＰ）的真有效解的定义以及图２．３可得，（ＭＯＰ）的真有效解集为［－３，?１）．此??夕卜，，丨？?＝?－２＿＆／２＊＝－５．令??，ｘ?＝?１，０－＝－－，＾．?＝?（／－Ｉ（／（ｘ）－／＊）），?＝?Ｕ＾（ｆ（ｘ）￣ｒ））２??＝?１．Ｗ?＝?〇＞＾１?＝?１．＾２?＝０，７１?＝?ｆ＼（ｘ）￣?１，７２?＝?ｆ２＜ｊ）－??则（Ｓ〇ｐ）ｉａｉＭ的可行域为??ｊ（ｊｃ，?ｓ）?ｅ?Ｓ?ｘＲ２＼ｆｉ（ｘ）?－?ｓｉ?＜?ｆ＼（ｘ）￣?ｌ．ｘｅ?［ｌ，４］，ｓ?＾?〇）．??进一步，我们可以验证（又习是（ＳＯＰ）；ｇ７Ｍ的最优解？显然，（＾５）是（ＳＯＰ）＾＾的??可行解．此外，由／Ｋｘ）和／２〇ｃ）的定义以及引理２．１可知，对任意的；ｃ?ｅ?［１，４］，??Ｐ＼?｛Ｑｘ｛Ｒｘ）－ｎ）ｘ?＞ａ?（ｉ；＼ｆｃｘ）－ｎ＼?＝?ｉ．??ｊ３２?（ｉ－＼ｎｘ）?－?ｎ）２?＞／３２?（ｉ－＼／（ｘ）?－?ｒ?＞）２?＝?ｉ．??这表明丨丨／⑵－尸喝２?１，Ｖ；ｃ?ｅ?［１，４］．故对（Ｓ〇Ｐ）ｋ＾的任意可行点，均有??ｉｉ／ｗ?－?／％?＾Ｓ２?＞?２?＝?ｙｓ，?－
【参考文献】：
期刊论文
[1]向量优化问题的线性标量化方法和Lagrange乘子研究[J]. 杨新民,陈光亚. 中国科学:数学. 2020(02)
[2]A new piecewise quadratic approximation approach for L0 norm minimization problem[J]. Qian Li,Yanqin Bai,Changjun Yu,Ya-xiang Yuan. Science China（Mathematics）. 2019(01)
[3]新的非线性分离定理及其在向量优化中的应用[J]. 赵克全,戎卫东,杨新民. 中国科学:数学. 2017(04)
[4]Multi-objective optimization of cooling air distribution of grate cooler with different inlet temperatures by using genetic algorithm[J]. SHAO Wei,CUI Zheng,CHENG Lin. Science China（Technological Sciences）. 2017(03)
[5]Second order duality for multiobjective programming with cone constraints[J]. TANG Li Ping,YAN Hong,YANG Xin Min. Science China（Mathematics）. 2016(07)
[6]Higher-order Mond-Weir converse duality in multiobjective programming involving cones[J]. YANG XinMin,YANG Jin,YIP Tsz Leung,TEO Kok Lay. Science China（Mathematics）. 2013(11)
[7]L1/2 regularization[J]. XU ZongBen 1 , ZHANG Hai 1,2 , WANG Yao 1 , CHANG XiangYu 1 & LIANG Yong 3 1 Institute of Information and System Science, Xi’an Jiaotong University, Xi’an 710049, China;2 Department of Mathematics, Northwest University, Xi’an 710069, China;3 University of Science and Technology, Macau 999078, China. Science China（Information Sciences）. 2010(06)
[8]集值映射向量优化问题的ε-超有效解（英文）[J]. 凌晨. 运筹学学报. 2001(03)
[9]集值映射向量优化问题的ε-真有效解（英文）[J]. 戎卫东,马毅. 运筹学学报. 2000(04)
[10]Benson真有效解与Borwein真有效解的等价性[J]. 杨新民. 应用数学. 1994(02)
本文编号：3427200
本文链接：https://www.wllwen.com/shoufeilunwen/xxkjbs/3427200.html
