吴怀宇_中国科学院分享 http://blog.sciencenet.cn/u/wuhuaiyu 博士、副教授 「模式识别国家重点实验室」&「中国-欧洲信息,自动化与应用数学联合实验室」

博文

[CV论文读讲] LASSO 参数选择

已有 4603 次阅读 2012-11-30 14:28 |系统分类:科研笔记| 论文

Problem
Methods
-Akaike Information Criterion (AIC)
-Bayesian Information Criterion (BIC)
-Cross-Validation (CV)
-Generalized Cross-Validation (GCV)
-Stein’s Unbiased Estimate of Risk (SURE)
Conclusion
偏差-方差分解,模型拟合与预测之间的关系
Loss of information: 用我们估计得到的模型去逼近真实的模型所造成的信息损失的度量
Conclusions
小的“偏差”意味着从平均意义上,可以从已有的数据中估计出真实的函数
小的“方差”表示我们得到的估计不会随着训练集的变化而发生较大的改变
Occam’s razor:设计者不应该选用比“必要”更加复杂的分类器,“必要”是由训练数据的拟合情况所决定。
Satisfying: 实现一个“合适”的解(未必是最优)已经足够
选一个合适的参数
 
相关下载详见 “视觉计算研究论坛”「SIGVC BBS」:http://www.sigvc.org/bbs/thread-43-1-2.html


https://wap.sciencenet.cn/blog-4099-637823.html

上一篇:[CV论文读讲] Fast Iterative Soft-Thresholding Algorithm
下一篇:[CV论文读讲] LARS
收藏 IP: 222.129.50.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-29 05:39

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部