张量低秩逼近与梯度流方法

发布时间：2017-09-24 01:11

  本文关键词：张量低秩逼近与梯度流方法

  更多相关文章： 张量分解 张量低秩逼近 线性矩阵方程 ALS方法 梯度流方法

【摘要】：张量分解和张量低秩逼近是目前最热门的研究领域之一,在心理测量学、化学计量学、数据压缩与挖掘、计算机视觉、图形分析等领域有广泛的应用背景.张量分解的数值实现很困难,一个替代办法是尝试寻找其低秩逼近.任意阶的张量最佳秩一逼近总存在,但可能没有秩大于二的最佳逼近.计算张量秩一逼近的主要方法是ALS(交替方向最小二乘)方法,它可以看成是乘幂法的一种推广.关于ALS算法的研究成果很多,如目标值的有界单调收敛性分析、局部收敛性分析、各种变体及其应用等,但是关于其迭代序列本身的全局收敛性分析尚未见到任何结果.由于当R≥2时,高阶张量最佳秩R逼近不一定存在,有人尝试正交低秩逼近,对完全正交约束问题,证明了解的存在唯一性并给出了ALS方法,但未有任何收敛性结果.线性矩阵方程可以看成是一类四阶张量算子方程.对于一般的线性矩阵方程,人们通常将其展开成线性方程组来求解.这样会破坏原始数据的内在结构,增加存储量和计算量,降低求解效率.也有一些的直接从矩阵方程出发的求解办法,但是只限于特殊的线性矩阵方程,甚至是特殊条件之下如何对一般的线性矩阵方程,不转化为线性方程组而直接构造求解方法是一个值得考虑的问题.流方法是一类求解优化问题和非线性方程组的全局收敛性算法.梯度流方法是一类特殊的流方法.本文研究张量低秩逼近和一般线性矩阵方程的算法和理论,其中梯度流方法起到了至关重要的作用,取得的主要成果如下在本文第二章中,我们填补了张量秩一逼近的ALS方法产生的迭代序列没有全局收敛性分析这一缺失,通过梯度流方法,用动力系统和代数几何理论证明了对于几乎所有张量,秩一逼近的ALS方法产生的迭代序列是全局收敛的.在本文第三章,我们研究高阶张量的秩R(R≥2)正交逼近问题.我们考虑带较弱的半正交约束,即要求各秩一张量在某一组分量上相互正交的秩R(R≥2)逼近问题.对此问题,我们通过极分解保持半正交性,给出了一种ALS方法——修正高阶乘幂法,证明了目标值的有界单调收敛性,并用梯度流的方法和代数几何理论证明了对于几乎所有的张量,ALS方法产生的迭代序列的全局收敛性.在本文第四章,我们给出了求解一般线性矩阵方程的正规方程的梯度流方法的计算框架,说明了该方法的收敛性,并给出了收敛速度估计和证明,对常见的矩阵方程进行了归纳分类,给出了相应的梯度流形式,最后用低精度的ODE方法对该方法进行了高精度的实现.这类方法对于一般的线性矩阵方程都可以有效求解.
【关键词】：张量分解 张量低秩逼近 线性矩阵方程 ALS方法 梯度流方法
【学位授予单位】：大连理工大学
【学位级别】：博士
【学位授予年份】：2015
【分类号】：O241.6
【目录】：

• 摘要4-5
• Abstract5-12
• 1 绪论12-26
• 1.1 张量分解与低秩逼近12-18
• 1.1.1 张量的基本概念12
• 1.1.2 张量的基本运算12-14
• 1.1.3 张量分解14
• 1.1.4 张量分解的类型14-16
• 1.1.5 张量低秩逼近16-18
• 1.1.6 计算方法18
• 1.2 线性算子与线性算子方程18-21
• 1.2.1 线性矩阵方程20-21
• 1.3 梯度流21-23
• 1.4 代数几何中的几个概念23
• 1.5 本文主要内容23-26
• 2 一般张量的秩一逼近26-36
• 2.1 引言26
• 2.2 张量的秩一逼近26
• 2.3 ALS方法26-28
• 2.4 ALS方法的全局收敛性28-32
• 2.4.1 增量的减少28-29
• 2.4.2 梯度流方法29-32
• 2.4.3 分量全局收敛32
• 2.5 代数几何的观点32-33
• 2.6 局部极小点33
• 2.7 特例33-34
• 2.8 本章小结34-36
• 3 张量的正交低秩逼近36-52
• 3.1 引言36
• 3.2 秩二逼近,存在性与正交性36-38
• 3.3 正交秩二逼近38
• 3.4 最优性条件38-40
• 3.5 正交秩二逼近的HOPM方法40
• 3.6 张量的正交低秩逼近40-41
• 3.7 广义的Rayleigh商41-42
• 3.8 最优性条件42-44
• 3.9 修正的高阶乘幂法44-45
• 3.10 算法的收敛性45-50
• 3.10.1 函数目标值的收敛45-46
• 3.10.2 迭代的收敛46-50
• 3.10.2.1 几何孤立稳定点46-48
• 3.10.2.2 增量的减少48
• 3.10.2.3 全局收敛性48-49
• 3.10.2.4 一般性49-50
• 3.11 本章小结50-52
• 4 一类求解一般线性矩阵方程的梯度流计算框架52-68
• 4.1 引言52
• 4.2 广义正规方程52-54
• 4.3 梯度流方法求解线性矩阵方程54
• 4.4 收敛性和收敛速度54-57
• 4.5 应用到几类特殊的线性矩阵方程57-61
• 4.6 梯度流方法的低精度高效率实现61-65
• 4.7 复域情况65-66
• 4.8 本章小结66-68
• 5 结论与展望68-72
• 5.1 结论68-69
• 5.2 创新点69
• 5.3 展望69-72
• 参考文献72-82
• 攻读博士学位期间科研项目及科研成果82-84
• 作者简介84

，

本文编号：908495