用发生概率广义熵同时最大原理推导对数分布

美国归侨冯向军博士，2017年8月22日写于美丽家乡

 对于平衡态的对数分布pi=f(xi)=log(bxi+c)，i=1，2，...，n，同时存在自然约束条件、自洽约束条件和系统约束条件：

p1 + p2 +...+ pn = 1    (1-1)(自然约束条件)

p1/f(x1) + p2/f(x2) + ...+ pn/f(xn) = 常数 = n    (1-2)(自洽约束条件)

p1x1 + p2x2 +...+ pnxn = 常量    (1-3)(系统约束条件)

我们来考察如下新的目标函数发生概率的对数log(P) + T。这其中：

T = nexp(1/(a*n)) -  exp(p1/a) - exp(p2/a) - ... -exp(pn/a))

当概率分布在自然约束条件下处于均匀分布时，T达到最大值零。

在变量的统计平均值不变的约束条件下，不失一般性，有：

p1(r1x1 + r2) + p2(r1x2 + r2) + ...+ pn(r1xn + r2) = 常量C （1-5）

这其中r1和r2是常数。又有自然约束条件：

于是拉格朗日算子为：

L = log(p1) + log(p2) + ... + log(pn)+

+ nexp(1/(an)) -  exp(p1/a) - exp(p2/a) - ... -exp(pn/a) +

+ C1(p1 + p2 +... + pn - 1) +

+ C2(p1(r1x1 + r2)+ p2(r1x2 + r2) + ...+ pn(r1xn + r2) - C3)

+ C4(p1/f(x1) + p2/f(x2) + ...+ pn/f(xn) - n)

对拉格朗日算子L求一阶偏导数dL/dpi并令之为零，就有：

dL/dpi = 1/pi -1/a *exp(pi/a) + C1 + C2(r1xi + r2) + C4/f(xi) = 0

当 C4 = -1,pi = f(xi) = a*log(a*(C1 + C2(r1xi + r2)))

命:

b = a*C2*r1, c = a*C1 + a*C2*r2

有：

pi = a*log(bxi + c), i = 1，2，...,n （1-3）

这就是对数分布。

但是拉格朗日算子L的二阶偏导数矩阵为一主对角线上元素恒负而其余元素全为零的负定对称矩阵。因此，令拉格朗日算子L一阶偏导数为零的上述服从式(1-3)的对数分布pi也必定是令拉格朗日算子L或约束条件下的目标函数发生概率的对数log(P) + 广义熵T取得最大值或极大值的概率分布。这种对数分布pi符合发生概率和广义熵同时最大原理。

 对数分布的一个实用例子就是作为概率分布的归一化于宏义观控隶属度【1】。对于作为概率分布的归一化于宏义观控隶属度，有：

xi = i，i = 1，2，...，n。

a = 1/(log(n+1)*(F(1) + F(2) + ...+ F(n)))

b = -1

c = n + 2

p(I) = a*log(n+2-I), I = 1，2，...,n （1-4）

这其中 F(I)是定性序号或名次I所对应的于宏义观控隶属度，I = 1，2，...，n。

图一  观控隶属度F(I)与定性序号或名次I之间的关系

参考文献

【1】冯向军，基于概率的于宏义观控测度，科学网，2017年6月17日。http://blog.sciencenet.cn/blog-1968-1061285.html