评论详情页
杨正瓴
赞
+1

阅读笔记:
(1)最大熵的连续分布:
已知区间==>均匀分布
已知均值==>指数分布
已知均值和标准差(方差)==>正态分布
即在均值和标准差已知的情况下,正态分布是最大熵分布。
http://www.zhihu.com/question/20807764
(2)具体例
制約条件 I により、エントロピーを最大化する分布は以下のようになる:
X が区間[a,b]にある事だけが分かっている⇒Xは[a,b]上の一様分布
X の平均 \mu と分散 \sigma^2 はだけが分かっている⇒ X は平均 \mu 、分散 \sigma^2 の正規分布
X が正値で平均 \mu である事だけが分かっている⇒平均 \mu の指数分布
X の値域が有限集合 {x_1,\ldots,x_n} で平均が \mu である事だけが分かっている⇒ \operatorname{Pr} (X=x_k )=Cr^{x_k} \quad \mbox{ for } k=1,\ldots ,n という形の分布。
https://ja.wikipedia.org/wiki/%E6%9C%80%E5%A4%A7%E3%82%A8%E3%83%B3%E3%83%88%E3%83%AD%E3%83%94%E3%83%BC%E5%8E%9F%E7%90%86
2016-02-21 13:15
(1)最大熵的连续分布:
已知区间==>均匀分布
已知均值==>指数分布
已知均值和标准差(方差)==>正态分布
即在均值和标准差已知的情况下,正态分布是最大熵分布。
http://www.zhihu.com/question/20807764
(2)具体例
制約条件 I により、エントロピーを最大化する分布は以下のようになる:
X が区間[a,b]にある事だけが分かっている⇒Xは[a,b]上の一様分布
X の平均 \mu と分散 \sigma^2 はだけが分かっている⇒ X は平均 \mu 、分散 \sigma^2 の正規分布
X が正値で平均 \mu である事だけが分かっている⇒平均 \mu の指数分布
X の値域が有限集合 {x_1,\ldots,x_n} で平均が \mu である事だけが分かっている⇒ \operatorname{Pr} (X=x_k )=Cr^{x_k} \quad \mbox{ for } k=1,\ldots ,n という形の分布。
https://ja.wikipedia.org/wiki/%E6%9C%80%E5%A4%A7%E3%82%A8%E3%83%B3%E3%83%88%E3%83%AD%E3%83%94%E3%83%BC%E5%8E%9F%E7%90%86
全部回复1 条回复