吴怀宇_中国科学院分享 http://blog.sciencenet.cn/u/wuhuaiyu 博士、副教授 「模式识别国家重点实验室」&「中国-欧洲信息,自动化与应用数学联合实验室」

博文

[CV论文读讲] Fast Iterative Soft-Thresholding Algorithm

已有 6249 次阅读 2012-11-30 14:27 |系统分类:科研笔记| 论文

相关下载详见 “视觉计算研究论坛”「SIGVC BBS」:http://www.sigvc.org/bbs/thread-42-1-2.html

这是我即将阐述的内容。由于FISTA是纯数学论文,不太好纯粹阐述FISTA的收敛速度论证。准备时间也不足,希望能够对各位有所帮助
以上两页PPT最为简单,下面的几乎全是公式,有一定难度,有问题随时问吧,我尽量解答。
•ISTA与最小化上界法


•ISTA与梯度下降法


•梯度下降法与FISTA(APG)

 

•最小化上界法与ALM


•ALM与FISTA

 


上一讲ISTA,我们就讲到这里。现在稍稍进行回顾,进而进行拓展。L/2,我是有意如此书写,原因等会儿就明了。
最小化上界的根本依据在于褐色的不等式
接下来论述那个所谓神奇的Landweber怎么来的。上节课汪师兄提到了梯度,的确就是梯度的因素。当然,这可以通过观测&待定系数法得出。但是更实质的在于梯度。原文中有该方法的来源,小谷没讲,我认为是不应该的。
现在ISTA与梯度下降法的关系阐述完毕,接下来我们讲述FISTA
首先考虑这里所给出的General Model
Smooth: all orders differentiable


 



https://wap.sciencenet.cn/blog-4099-637821.html

上一篇:[CV论文读讲] Iterated Soft-Thresholding Algorithm
下一篇:[CV论文读讲] LASSO 参数选择
收藏 IP: 123.118.210.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (1 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-19 11:57

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部