组成论:第二十一章其他(3)

张学文

2003年4月公布于熵、信息、复杂性网站

  http://entropy.com.cn

 

§21.5解积分方程和偏微分方程

积分号中含有未知函数的方程称为积分方程。有一类积分方程呈如下简单形式:

     21.7

这里的Φ(x),和K(x,y)都是已知函数而f是关于变量x的未知函数。现在分析是否可以利用最大熵方法得到f (x)

Mn(x),n=0,1,…[a,b]上的一组线性独立的函数,用它们分别乘上式并且在[a,b]取积分,就可以得到

   21.8

如果Mn(x)K(x,y)可以交换积分的次序,就得到(移项后)

    21.9

改变积分中的变量的符号,以t代替x,以x代替y,就得到

              21.10

由于各个Mn(x)和Φ(x)都是已知函数,其下面的积分应当是一些已知常数,我们以μn表示之

 n=0,1,…      21.11

类似地我们再定义一些个可以计算的函数为Gn(x)

       21.12

于是有

       n=0,1,…        21.13

我们可以把这些个关系式看作是关于未知函数f(x)的约束方程。如果f(x)具有分布函数的性质,并且认为它可能是这个函数也可能是另外的函数(有随机性),那么根据最复杂原理,复杂程度最大的函数的出现的可能性是最大的。这样就可以利用约束条件下的该未知函数的复杂程度最大反求这个未知函数(具体解的步骤已经介绍多次这里不赘述了)。

求得了f(x)显然也就表示我们利用最大熵方法(复杂程度最大)巧妙地解出了一个积分方程。当然不是一切未知函数都可以这样做,它应当满足上面提出的一些要求。

在解决这个问题中Gn(x)函数蔟是我们给的。它显然应选取尽量简单好计算的函数蔟。吴乃龙的书给出了计算的具体例子,这里就从略了。

 《最大熵方法》[55]还介绍了用最大熵方法求解偏微分方程问题,说:“偏微分方程常常用来描述与时间和空间有关的过程。如果待求的是密度函数,则它取非负值,并且随着时间的推移,它的空间分布自发地趋于均匀,也就是熵随时间增加而趋于最大。扩散过程就是一个典型的例子。这种过程的物理机制使我们想到用最大熵方法求解相应的偏微分方程。”

吴乃龙给出了一个圆环上的热扩散的例子。它的计算结果与我们的常识,“热量在环上的扩散最终使各处的温度都相同”,是一致的。其具体解问题的思路与解积分方程类似,但是要利用偏微分方程和边界条件证明密度分布函数随时间的变化确实对应着熵的增加,计算量也比求解偏微分方程大。

§21.6分布函数和复杂程度的演化

本书对客观事物的讨论以广义集合、分布函数、复杂程度三个概念展开,而关于客观事物的规律主要介绍了最复杂原理。这些讨论都是初步的、静态的,一般没有涉及时间的演化问题。确实,除了涉及运动的广义集合,我们给出的分布函数都是对于某个时刻(同一时刻)分布函数,给出的复杂程度也都是对于某个时刻(同一时刻)复杂程度(该时刻是否处于热力学所谓的平衡态我们倒是不计较)。现在问:如果考虑分布函数和复杂程度的时间的变化会引出什么问题?

2005年元旦不同年龄的中国人各有多少?2005年元旦不同收入的中国人各有多少?这都是指一个确定时刻的分布函数。如果问2006年元旦的不同年龄的中国人各有多少,或者2006年元旦的不同收入的中国人各有多少,这就涉及分布函数从2005年如何变化的问题了。从上面的例子看广义集合的分布函数(或者复杂程度)随时间的变化显然是非常重要的问题。

组成论属于初创,笔者的能力也有限。我们对这些重要问题不能深入讨论,下面仅是初步讨论。

分布函数概念来自统计物理学和概率论中的概率密度分布函数,或者说它是这些概念的综合。在概率论中人们已经对概率(分布函数)随时间的变化做了研究。主方程就是它的一般结果。读者可以参考那里的讨论(如文献[56]。我们也可以天然地认为它也是组成论的知识体系的组成部分。在这里我们用组成论的语言介绍与概率论中主方程平行的思路。

 某客观事物(系统、广义集合)由N个个体组成。对于每个时刻,其每个个体就标志变量x都仅有唯一的值。各个个体对x的取值限于区间[ab]上,即axb

在时刻t,这个广义集合具有下面的分布函数

x1,x2,…,xi,…,xk

↓↓ ↓ ↓

n1,n2,…,ni,…,nk

即标志值xi,(其中i=1,2,…,k)具有的个体的数量为 nii=1,2,…,k),或者写为

n=n(x)     (21.14)

当变量x为连续变量时,这个表示式也可以理解为变量x有单位增量时,个体个数的对应数量(仍然符合分布函数的不同标志值的个体各有多少的本义)。

为了分析分布函数n=n(x) 随时间的变化,我们定义一个函数p(xi,xj),它描述在单位时间内,处于xi,状态的个体转变为xj状态的概率密度(密度二字的含义对应下面的公式中的概率是概率密度乘以变量的变化区间dxj)。于是在单位时间内广义集合中处于xi,状态的ni,个个体变成了各个状态(含xi,状态)的个体的数量nout

         (21.15)

与此类似,我们也可以利用这个转换概率密度p(xi,xj)去描述处于各种状态的个体在单位时间变成了xi,状态的个体的数量ni (进入了xi,状态),这只要进行下面的计算就可以了

         (21.16)

所以经过单位时间以后位于x状态的个体的数量有出去的部分,也有进入的部分。把进入的部分减去出去的部分也就是单位个体数量的变化部分了。即它描述了分布函数随时间的变化。如果用Δn(x)/Δt表示这个变化,我们有

              (21.17)

这个公式描述了分布函数随时间的演化。从分析的角度看只要该客观事物(广义集合)中各个个体的状态的变化的概率密度可以用二元函数p(xi,xj)描述(这对应概率语言下的马尔科夫性质),而且这个函数是已经知道的,那么就可以根据这个公式计算分布函数随时间的变化。从数学的角度看,如果p(xi,xj)不知道(未知函数),那么这就是一个积分方程。

复杂程度是根据分布函数计算出来的,知道了分布函数的变化,也可以计算复杂程度的变化。所以如果解决了分布函数的变化问题,复杂程度的变化问题也就解决了。

早在120年前,波尔兹曼就针对气体分子运动的分布函数f(v),计算了它的一个特殊的积分: H=flnfdv,并且证明这个积分随时间的变化只可能等于或者小于0。这个积分如果乘以负1,其物理意义就是复杂程度。所以它体现了分子运动的复杂程度只能随时间而加大。这是最复杂原理的一种体现。波尔兹曼得到的这个公式也称为H定理。它说明120年以前物理先驱们已经研究了分子运动的复杂程度随时间的变化,而且得到了它只能自发增加的结论(当然增加到最大值就不可能再增加了)。我们既要知道这些知识是串通在一起的,也要对其他物质系统的复杂程度随时间的变化也展开平行的研究。

限于作者的学识和本书的篇幅,我们仅能对这个非常重要的问题初步讨论到此。我们认为把组成论与这些知识联通也就扩宽了思路。

 

§21.7本章和第三篇小结

21章是最复杂原理在其他领域的某些应用。我们介绍了它在经济和生态中的应用、以杰尼斯为代表的最大熵方法学派。还简单介绍了最大熵方法在解矩问题、积分方程和偏微分方程中的应用。最后讨论了分布函数和复杂程度随时间的变化问题,把概率论、统计物理学的一些知识与组成论知识链接起来。

本章给的例子尽管是零散的,但它们也提示读者:最复杂原理(最大熵方法)几乎可以用到人们过去想象不到的领域。希望各个领域的专家再进一步认识到:在我工作的领域这个方法(原理)也应当有广泛的应用,这或许是理论创新的突破口!

 

本节也是第三篇的小结。这一篇讨论广义集合、分布函数、复杂程度概念的应用,并且着力讨论了最复杂原理的某些应用。

“广义集合”是分子概念的泛化,这个概念的应用就是设法把各个领域的事物整理(也可能行不通,但是很多情况行得通)为一个明确的广义集合(什么是其个体、什么是要分析的标志)。迈出了这非常基础的一步就自然带出了一个定量的成果:该广义集合(客观事物)存在一个分布函数。有了广义集合和分布函数概念可以提高我们概括客观事物分析客观事实的能力,它使我们在坚固的基础上从定性认识迈向定量分析。物理学家的数学修养高,他们可以自如地、几乎无须解释地引入具体的分布函数问题。但是其他领域的学者的数学修养一般比物理学家要弱一些,于是可能有很多问题还没有按照分布函数的格式提出来。这些领域等待应用的问题非常多。

当代学者已经把“复杂”这个概念弄得太复杂(混乱)了。我们这里对复杂这个重要概念的定义是最简单也是很基础性的。我们指明:一切可以归入广义集合模型的客观事物都具有一个明确的可以计算的物理量,它的含义恰好符合人们对复杂这个概念的最基本的认识。

符合广义集合的客观事物太多了,它们的具体的复杂程度是多少?这等待人们去计算。在有了计数器的今天,计算复杂程度的难度与计算平均值差不多。关于不同事物的平均值的研究不下一万种,我们也有上万种的客观事物的复杂程度有待研究。

得力的概念不仅对事物有高度的概括力,也是表达客观规律的基本工具。最复杂原理就是借助复杂程度概念表达的客观规律。利用合理的约束条件配合最复杂原理推算该广义集合(客观事物)的分布函数是对这个原理的重要应用途径。

各种理论概率分布公式联系着各个领域的很多客观事物,这些理论公式过去大多停留在所谓唯象的、经验公式的水平上。它们为什么是这样不是那样?

如果客观事物中存在随机性,那么复杂程度最高的哪个概率分布函数就最容易出现在该广义集合中。本篇讨论了不同的约束条件配合复杂程度最高(最复杂原理)得到了不同的概率分布函数的种种问题。这种讨论使一大批联系着明确的概率分布函数的事物从唯象的、经验的公式向理论公式迈进了一步。对于一大批问题,我们用最复杂原理多回答了一个为什么。我们向绝对真理的方向又迈进了一步。

除了物理学对熵原理的大量经典应用之外,在气象学等领域也得到了一些具体应用的事例,杰尼斯用最大熵方法证明统计力学中的分布是重要的事例。最大熵谱分析是例子,用最大熵方法帮助图像恢复也是例子。连求解积分方程居然也可以利用最大熵方法。凡此种种,提示我们:熵原理的应用不仅成果累累而且这可能仅是一台大戏的序幕。

应当承认过去对熵原理的应用都是在基本概念十分神秘的背景下由知名的科学家完成的。这种局面限制了它的推广。把熵概念明确为客观事物的复杂程度、把总问题概括为客观事物的组成问题,把求解过程概括为客观事物(广义集合)→分布函数→复杂程度→复杂程度最大→求理论分布函数→再验证的认识过程,就使总问题、总思路以至要用的概念和原理明朗化、通俗化、准确化了。这种认识不仅使我们更容易看清事理也有利于取得成果。确实,如果有1%的工程师独立应用这个思路分别解决一个问题,我们就得到了大量的新知识。

我们没有能力讨论组成论的一切应用,但是大家也会同意一个看法:在科学领域很难找到一个具体学科不能应用组成论知识。而这正是笔者希望读者开发的领域。

 

---第二十一章结束---

---第二十二章---