精华区 [关闭][返回]

当前位置:网易精华区>>讨论区精华>>科学大观>>● 自然科学>>物理学>>改造后的熵——张学文(xjzhangxw)>>改造后的熵 .35.-应用.16---关于概率分布

主题:改造后的熵 .35.-应用.16---关于概率分布
发信人: xjzhangxw()
整理人: (2000-06-04 10:49:20), 站内信件
改造后的熵 .35.-应用.16---关于概率分布的小结

我们已经或粗或细地介绍了上10个在统计学中广泛应用的概率分布函数。这里的
新奇之处就在于明确指出它们都可以从最复杂原理(或最大熵原理)统一说明它
们形成的物理原因,而不是唯象地说某某资料符合某某分布。这体现了概率知识
在熵原理组织下的系统化,也体现了统计知识的深刻化。
在28讲我们已经对此类问题做了初步小结,这里再补充一些。
1.在概率分布理论中还有一些变量概率分布问题是从已知变量的函数的角度推导
出来的。利用这种技术还(也)可以把我们推导的概率分布簇再扩大一些。我们
要在讨论物理学中的分布时附带再说明它,这里就省略了。

2.把熵原理推广到“概率分布”所涉足的一切领域是推进科技进步的一个任务。

我们知道概率分布已经用到了包括社会科学在内的很多学科,现在又看到了这些
概率分布都可以用熵原理给予理论说明。这显然说明一切有随机性存在的问题中
都是熵原理涉足的领域。熵原理与概率分布的联系说明熵原理的应用领域远远超
出了物理学。
用熵原理组织概率分布知识,把熵原理推广到概率涉足的领域是推进科技进步的
一个任务。

3.约束的类型决定着分布的形状
我们已经知道10多个不同的概率分布都可以利用最大熵原理,配合不同的约束而
推导出来。这些分布函数的函数形状所以各不相同是因为推导这些公式时用到的
约束条件的类型不同。这说明了约束在这里也起着重要作用,它决定着分布函数
的形状(类型)。利用这些知识会帮助我们推断那些分布函数应当寻找那些约束
是否符合本问题的实际。

4.约束的程度关系到熵值的大小
利用“熵最大”和恰当的约束公式求出概率分布,这已经达到我们的主要目的。
至于其熵的最大值(复杂程度最大值)究竟等于什么,一般而言并不是我们十分
关心的一个数而且根本不去计算它。
但是有关计算也可以求出熵的值。例如均匀分布时的熵等于ln(b-a),它表明变
量存在的区间(b-a)越大,其复杂程度就随着也加大,正态分布时的熵与标准差
的对数值成正比例关系。它也表示变量越是分散,熵就越大。其他分布的熵的计
算比较复杂,但是它们都是约束条件对应的那些个参数的值的函数。这说明约束
程度的不同(经常体现在参数的或大或小上),熵值也不同。这一点在认识问题
的物理含义、讨论最复杂原理在社会科学中的应用时有重要意义(后面要再讨论
)。

5.概率分布公式中约束条件的个数对应着公式中的参数的个数
正态分布的公式中有两个参数,一个是平均值a另外一个是标准差为b。而约束条
件有两个:概率密度的合计值为1 和标准差为确定值。在我们推导概率时显然可
以看到约束条件越多,引入的参数就越多。得到的分布函数中的参数也越多。所
以我们说约束条件的个数对应着公式中的参数个数。
这个事实也可以反过来考虑:概率公式中的参数如果仅有n个,那么形成这种分布
的原因除了最复杂原理以外仅有n个。而更多的“原因”在这里并无存在之处(你
也不必画蛇添足)。

6.用这些知识说明某某自然现象
很多专业科技工作者费了很大的力量获得了关于某某问题的一批数据资料。如何
利用它们总结出规律来就很吃力。能得到一个经验公式可以概括这些数据一般已
经比较满意了。如果你对问题也从广义集合和它的分布函数的侧面去考虑,你就
可以利用这里介绍的关于分布函数与最复杂原理、约束条件的知识以及你的数据
,从两个方面分析它们看是否可以得到一个经验公式并且可以配一个理论公式与
它一致起来。
能用最复杂原理加上恰当的约束说明一个自然规律,就是个不小的成绩。
关于最大熵(最复杂原理)与概率分布的问题的讨论到此结束。下次讨论最复杂
原理在社会科学中的应用。
张学文2000,6,03

--
※ 来源:.月光软件站 http://www.moon-soft.com.[FROM: 61.128.112.154]

[关闭][返回]