分享到:

梯度投影法改进的探讨

对问题(1).lp60年ROSe,在文献〔‘2中提出一种梯度投影法,由于算法简洁,备受重视,但其收敛性至今未能给出证明,因而有许多人为改进梯度投影法作了不少工作「“·“〕,虽然这些改进的算法收敛性均能保证,但是有的算法较为复杂.本文给出一种改进,并证明了收敛性.记号和引理 越r二(卫百,且屯).B厂二(B丁,B互) R={xl刃,二(B,,A:二=B:,x〔E。} J。={1 lb、一a丁x(各,蓄=i,2…m+l} J笃={‘!bi一a百x}}尸声}!引理6:在紧约束梯度线性无关的假设下,存在各。。.使得对VJgJ。。(x),x〔R,有ra雌k(A,)=!J!.证明见〔3〕算法 取劣。〔R,各0.令k=o第1步:计算g、二一甲f(x、)若rank(AJ。)二】J川,则转第2步.否则令乙:二1儿in各2 1二_,L_,.L_二、。,,;,1,~二一阴;n戈,s一u了x*IUI一“了劣*布U,J匕‘j了r 乙沪转第2步第2步:令J...  (本文共7页) 阅读全文>>

《科技资讯》2016年27期
科技资讯

图像复原的一种新的加速动量梯度投影法

压缩感知(Compressed Sensing,简称CS)理论是最近几年兴起的一种新颖的信号采样恢复理论.一经提出,便在信号处理[1-2],机器学习与模式识别,图像处理[4-9]等领域受到高度关注。压缩感知理论的主要内容包括信号的稀疏性、观测矩阵的设计和信号的重构算法三部分,其中稀疏信号重构算法的研究是压缩感知理论的核心内容。重构算法的设计直接关系到信号的重构质量,是衡量算法整体性能的重要指标。设nRx?是一稀疏信号,将其投影到测量矩阵nk A)(nk??得到降维的观测信号,kRb?二者之间的关系表达式为Axb?(1)有噪声的情况下:Axb???(2)其中k??R表示噪声。稀疏重构就是将原信号x从测量信号b中完整地重构出来,从数学意义上讲,即为计算欠定线性方程组(1)(或者(2))的稀疏解图1从左到右依次为:原始图像,小波变换后的图像,FISTA复原的图像,算法1复原的图像x。一般将其转化为最优化问题求解。该文研究的是受到广泛关...  (本文共4页) 阅读全文>>

《贵州工学院学报》1960年60期
贵州工学院学报

线性约束的梯度投影法

线性约束的梯度投影法张顺寿(贵州工业大学应用数学研究所)摘要本文应用作者(1995,1996)所建立的可行方向法的理论和方法,给出了梯度投影法的搜索方向的表达式和搜索方向是可行方向的充分必要条件;建立了梯度投影法的理论。关键词梯度投影法;搜索方向;表达式;可行条件;理论中图法分类号0221·l1引言设所研究的线性约束最优化问题为其中F,a是常数矩阵,h,b是常向量,XE*”,AE*”“”行满秩,并设任一可行点处的有效约束矩阵都行满秩,且/在任一可行点处可微。用梯度投影求解(P)的方法,始于1960年Rosen发表的文章,这之后,于1969年Gold-farb推广了Rosen的方法,Goldfarb法是梯度投影法和变尺度法的结合,它被公认为是求解(P)的最有效的算法之一。Rosen法的收敛性已于1986年得到了证明。但是,著名的Goldfarb法的收敛性还未得到证明,甚至其搜索方向的可行性,也还未得到理论上的肯定[’];这两个问题...  (本文共13页) 阅读全文>>

《华中工学院学报》1986年03期
华中工学院学报

新的优化方法——变尺度梯度投影法

一、RIJ g 数学规划法和优化准则法是结构优化常用的两种方法.就数学规划法而言,其数学理论严谨,通用性较好,但迭代次数一般比较多.优化准则法收敛速度快,但计算结果往往是近似的,收敛性有时得不到保证’“.在结构优化设计中,这两种方法各有其长处,也各自存在着困难.在分析研究如何克服它们的困难的过程中,发现两者存在着内在联系,在一定条件下,可以统一起来,有时甚至可以看成是等价的’‘’、”‘.把数学规划法与优化准则法结合起来,取长补短,探索新的优化方法,就已经成为结构优化设计研究的一个重要方向. 众所周知,H8ug-Arorg梯度投影法是结构优化中用得较多的一种数学规划方法’‘’.在HSWg-ArOO梯度投影法中,对于权矩阵W和步长刀的选取是至关重要的,它们直接关系到收敛速度和算法的有效性.但是,文献厂4〕对于它们的选取带有很大的经验性甚至盲目性,这就给这种优化方法在结构优化设计中的应用带来了困难.为此,我们将梯度投影法与优化准则法有...  (本文共8页) 阅读全文>>

《运筹学杂志》1987年02期
运筹学杂志

Resen梯度投影法的整体收敛性

考虑间题:r口aX‘CO硒絮毅三一,一犷飞了伽),其中。一{二〔丑“:可二》b,,J一1,…,好.记 一“寺(州一{夕:好二一‘犷‘、‘一冬对{l,一,可之子集J,记街~(匆,了任J)及乃~I一儿(群A力一IAJ.一个解如上最优化祠盔之方法—Ros6n梯度投影法可描述如下: 初始步任选一可行点。。〔。和一正常数。0.: 六第而步取‘J于了分)》·g,g(哟叠可(哟.计算俩,了份了)‘(道罗通沙)通匆和 吸一max{均,了任J}.:-如果乃g一o并且帐喊0,那么停机找此时护是K一T点),一香则选择搜索方向如下幻 「PJg,肠~嘴_ 一七尸苏刃,若IP刃l哪,若{}PJ夕{{《嘛。,叁后采用某种线搜索找出一新点砂+1一砂+腼住。使f(护+1)f(砂);转第无+1步. 这一方法,由于其思想简明,常常作为构造某些优秀算法的出发点,因此,已经成为经典内容写入许多非线性规划的教材中.但是,自1960年该方法出现以来,其整体收敛性,作为一个引...  (本文共2页) 阅读全文>>

《铁道标准设计通讯》1988年06期
铁道标准设计通讯

铁路纵断面优化设计与梯度投影法(下)

二、目标函数负梯度及其连续性 对于铁路纵断面优化设计,目标函数就是该段铁路的综合工程费F,包括铁路上部建筑工程费F。,、路基土石方(线路和站场)工程费F」、挡土墙工程费FZ、桥梁工程费F3、涵洞工程费F、、隧道工程费F。等。要写出综合工程运营费对于变坡点设计高的解析函数式是比较复杂的,占用机时也多。梯度投影法只需目标函数负梯度矢量一7F,我们用直接计算设计坡段各断面点的路基、挡土墙、桥涵、隧道的负梯度分量,其原理: 一7F二一7f(y) 该二2,3,··一n一1其中,铁路上部建筑工程费对变坡点设计高的梯度可认作为零,即丝攀竺=。 01‘(‘二2,3,……n一1),所以上面的这些式子可归纳成里二旦-_鑫翌二兰王OY;花巧ay:了虹些夕、aYZaf(y) ay: T 了=1,2,.”‘“5; i=2,3……n一1; 梯度投影法要求目标函数及其负梯度是连续的凸函数,那就必须保证每一个梯度分矢量Of,(Y) dy‘是连续的函数。现分述如...  (本文共6页) 阅读全文>>