8.6.1热力学熵

我们从不确定性的角度引入了“信息熵”。但是“熵”并不是由于描述不确定性而首先引入的新词。它是从物理中的热力学领域借来的。

18世纪的化学研究发现物质即便在化学变化时，其总质量（气体的、液体的、不同化学成分的）是不变的，这引入了质量守恒定律。19世纪中叶发现了另外一个物理量--能量也是守恒量，它也被称为热力学第一定律。

物理学还发现了其他的守恒量。在热学研究中就发现对于一定的物质进行一系列的所谓可逆的热力学循环过程又回到初始的热力学状态（温度、压力等回到原值）时还有另外一个计算（不是直接测量）出来的物理量也回到了初始值。即它在上述过程中也是一个守恒量。克劳修斯为这个性质良好的物理量取了一个与能量类似的名称--熵，现在经常用S 表示它。

人们一般关心熵S 的变化量dS 。它是由所谓可逆的热力学过程中热量Q 的变化量dQ 与当时的绝对温度T 的比值计量的：

    dS=dQ/T   （8.14）

物理学中的熵是附着在具体物质和它的具体状态上的一个物理量。例如有一摩尔的氧气（32克）它又处于摄氏25度和一个大气压的状态下，那么其熵的值就是205.1J/K。人们是可以具体计算每种物质成分在各个状态下的熵的值。

8.6.2热力学熵的微观含义

从热学过程计算出来的熵的深层意义是什么？19世纪玻尔兹曼等人从分子运动的多样性的角度给出了说明。其核心公式是

这里的S 就是物质的热力学熵，W 是该物质所处的宏观状态对应的微观状态的个数，而k 是玻尔兹曼常数。

表（8.8）不同数量的分子荷有不同的能量

实现表中给出的这种一般化的状态的具体方法（每个方法对应一个微观状态）有很多很多个。通过数学中组合数的公式可以计算出实现这种宏观状态的具体的微观方法的数量W，其公式是

W 也就是前面介绍的“微观状态的个数”，它经常被物理学称为热力学几率（它可是个比天文数字还大的数！）。这个公式建立了物质的热力学的熵值（对应确定的宏观状态）与实现该宏观状态的微观状态的方法的数量的关系。

如果N个分子所荷有的能量都相同，那么公式（8.16）中的n₁=N，而其他的n₂=n₃=…=0 。带入公式（8.16）得到

注意到0！=1，容易得到W=1。把它带回（8.15）式利用对数性质立刻得到S=0，即运动（能量）状态都相同的这个特别简单的状态其熵（复杂程度）为0。显然只要各个分子荷有的能量各不相同，那么计算出来的熵就是个大于零的数。对比这两种情况不难看出热力学熵度量的是微观尺度的运动状态的混乱程度( 丰富程度)。

8.6.3复杂程度与热力学熵的关系

把每个分子看成一个个体，把分子荷有的能量看成标志值，我们就可以问：不同的标志值（能量）的个体（分子）各有多少。这已经把我们引到广义集合的思路上去了。利用表（8.8）和前面计算复杂程度的公式(7.5)，本物质系统的分子运动（以能量表示）的复杂程度C显然应当是下式(把对数的底改用自然数e，log 就变成了ln)

我们把这个公式放到这里，现在把公式（8.16）取自然对数，有

由于我们关心的物质系统通常是由极大量的分子组成，所以N，n₁，n₂，…都是非常大的数。而数学上有一个斯特林公式是关于阶乘（！）的：

把这个关系带入前面的公式的每个有阶乘的地方，并且利用对数的性质，有

注意到具有各个能量的分子的个数的总和必然等于个体总量，即

容易得到

注意复杂程度的公式(7.5)，我们得到

这个公式说明一个物质系统的热力学熵S 就是其对应的微观尺度的复杂程度C与玻尔兹曼常数k的乘积。换言之

（8.15）式是统计力学中的基本公式。我们把它用到了气体分子的运动状态问题中得到了热力学熵（对应宏观状态）与复杂程度的线性（正比例）关系。如果微观系统不是气体分子的运动，那么描述状态个数的（8.16）式就会是其他的形状。对于这些更为广泛的情况鲁晨光曾经得到了它们与信息熵的对应关系。又由于信息熵与复杂程度是成正比例的量，所以热力学熵与复杂程度成正比例的关系也是成立的（参考鲁晨光，广义信息论，合肥，中国科学技术大学出版社，1993，103-105）。

§8.7小结

信息是20世纪时髦名词，关于信息的理论称为信息论--关于通讯的数学理论。信息熵是信息论中的基本概念。基于概率论的信息熵是通过随机抽样实验时抽样结局的不确定性来定义信息熵的大小的。这种定义方法的优点是与通讯的过程联系密切，但是它与客观事物的联系就不够直接和鲜明。

本章说明19世纪物理学引入的热力学熵描述了微观尺度的运动状态的复杂程度。热力学熵是物质的微观状态的复杂程度的代名词。

--第八章结束--

第九章 回第八章首