走进“熵”的心脏——吉布斯理论追溯

学习统计力学时，系综理论堪称“拦路虎”，抽象概念常让人困惑不已。为何孤立系对应微系综？温度定义又为何引发争议？本文追随物理学家吉布斯的思想脉络，从简单的单摆模型入手，介绍如何应用刘维尔定理得到系综理论，并讨论时间平均、统计分布与系综分布之间的关系，以期读者可以从源头了解吉布斯系综理论。 从科学理论、文学作品到生活哲理，人们都特别喜欢引用“熵”的概念。 刘慈欣在《三体》中如此描述“歌者”：“宇宙的熵在升高，有序度在降低，像平衡鹏那无边无际的黑翅膀，向存在的一切压下来，压下来。可是低熵体不一样，低熵体的熵还在降低，有序度还在上升，像漆黑海面升起的磷火，这就是意义，最高层的意义，比乐趣的意义层次要高。要维持这种意义，低熵体就必须存在和延续。”“低熵”也成为了一个网络上的热门词汇，因为“低熵”表示足够有次序，不那么糊涂，不那么不确定。而这一比喻的来历则和一个广泛传播的说法有关：熵即混乱度。 “熵”的最早思想来自热力学，与混乱无关。把“混乱”概念和熵联系起来的，是统计力学这门学科。在统计力学中，乃至在应用数学理论、信息理论中，抽象而系统地讲述“熵”这一概念，都离不开系综理论。 可以说系综理论是熵这一概念的“心脏”：通过它，熵的思想被泵到了各个不同的学科中。 系综理论是抽象而艰难的学问。即使对于学习物理的学生，当学到系综理论的时候，大多数人都难免犯迷糊。我有的同事，虽然教书也有年头了，也坦言：不理解系综。两个典型的问题是： 在孤立系中，分出一个粒子数固定的小的系统，做正则系综；再让这个小的系统的粒子数不固定，做巨正则系综。那从系统大小分，明明孤立系是整个理论的分析基础，难道不应该是总系综、小系综、巨系综吗？为什么系综理论里面，孤立系对应微系综，然后才是正则系综，巨系综？ 一种流传较广的说法是：孤立系不能定义温度。一个能量恒定且与外界不交换能量的系统，其中的粒子也有平均的动能，分明可以定义温度。这不是相互矛盾的讲法吗？ 这些问题，不只在我读书的时候犯迷糊，甚至我教授了二十年的《通信原理》，每年都要讲一遍系综平均和时间平均的关系的情况下，依然犯迷糊——毕竟像温度这样的物理量，是物理学特有的，通信原理不会涉及。 最近，我由于写书的缘故，读了麦克斯韦（J. C. Maxwell）、玻尔兹曼（L. Boltzmann）和吉布斯（J. W. Gibbs）的书，豁然开朗，总算明白了“系综”的来龙去脉。著名理论物理学家吴咏时先生认为，这始料未及而又豁然开朗的过程，是科学研究的趣味所在，不论心境还是内容都值得一书。故有此文。 1 系综理论提出的背景 为了从分子运动的角度解释气体的温度、压强等物理量的成因，在克劳修斯（R. Clausius）的工作基础上，麦克斯韦于1860年建立了气体分子运动论。他将一个个气体分子看作一个个弹性小球，从概率的角度引入速率分布的假设，建立了描述气体分子速率分布变化的方程。而一个由大量气体分子构成的体系进入统计平衡的状态时（即宏观的热力学平衡态），气体分子的速率分布不再随时间变化。[1]在OXYZ坐标系内，这个稳定的分布（速度分量）为

这个分布服从我们通常所说的正态分布，或者叫高斯分布。这里，麦克斯韦将分子运动的统计分布和理想气体的宏观物理量联系起来，即，方差σ2正比于体系的绝对温度T。 麦克斯韦仅仅提出了进入分布稳定状态的一种解，但是，我们会问，还有其他解吗，即还存在其他稳定分布吗？ 玻尔兹曼回答了这个问题，且在他提出的条件下，这个稳定分布是唯一的。[2]

虽然以上两个函数与正态分布略有差异，但是其推导基础都来自正态分布。因此，这些分布都被称为麦克斯韦-玻尔兹曼分布，且T始终保持和正态分布的方差σ2的固定关系。 然而，这些理论是把气体分子当作弹性小球去处理的。所以有两个问题，一个是忽略了分子间的相互作用力；另一个是忽略了分子的内部结构。 对于第一个问题，玻尔兹曼引入了分子间相互作用的力，即范德瓦尔斯力，修正了模型。而对于第二个问题，处理起来非常困难。在玻尔兹曼看来，当时的实验仅仅是能观察气体发光的光谱，分子内部结构的解释主要来自化学家，其力学结构是不清楚的。所以，玻尔兹曼只能采用相对抽象的力学理论，把一个分子看成一个力学体系，以分析力学为基础，来建立分子内部结构的模型。正是这种分析办法，使得玻尔兹曼不得不使用一个重要的概念——各态遍历（ergodicity），来为其结果的合理性提供支撑，这也是吉布斯的系综理论建立的起点。 现在我们结合玻尔兹曼的思路，来看看吉布斯的系综理论。为什么要结合玻尔兹曼的思路？据说，当年瑞利（John William Strutt, Third Baron Rayleigh）写信给吉布斯，请求他写一篇更长的文章来解释其创立的相理论。吉布斯则答复，认为原来的文章还太长，应该更短些。[4]所以，吉布斯的文章是出了名的抽象晦涩，充满了看似倒因为果的推导和分析。因此，我下面就按照玻尔兹曼的思想脉络，结合具体的力学体系的例子，来介绍吉布斯的系综理论，以便读者理解。 2 刘维尔定理 2.1 分析力学中的基本概念 对于一个力学体系，我们通常采用分析力学来进行处理，分析每个时刻体系的状态。 对于系统势能只与系统内物体的位置有关的力学系统，我们称之为保守系统[5]，有：

这里，s代表系统的某个自由度，n是系统自由度的数目；qs和ps分别是系统的广义坐标和广义动量，H为哈密顿量（Hamiltonian），是系统的能量。（对于物理或力学类、机械类的朋友，以上概念是极为明了的，而对于其他专业的朋友，我们会结合后面的例子来说明，大家先略过理解，往下先看。）这个方程，称为哈密顿正则方程，qs和ps称为正则坐标。由qs坐标构成的空间，称为位形空间；由ps坐标构成的空间，称为动量空间；位形空间和动量空间合起来称为相空间。 我们来看如图1所示的一个单摆，并以摆锤到达最低位时为势能零点，则易计算其能量为：

如果体系受到除了位形决定的力的影响外，还受到其他力的影响，我们称之为非保守系统。比如单摆的例子中，如果单摆运动到某个位置时，有人突然用手推了一下摆锤，或者摆锤被某个外来的小球撞了一下，系统就不再保守了。这个时候正则方程就会发生变化，写为：

其中Fks表示所有作用在自由度s上的广义力（广义力即广义动量对时间的导数，后文将“广义力”直接称为“力”）。 方程（6）似乎只是关于非保守系统的。但即使是保守力，如果被讨论的施力物体在系统之外，并且处于运动状况，则不把系统外部物体的动能以及其彼此间的势能包含进系统，是无法消除Fks的作用的。玻尔兹曼和吉布斯都注意到了这一问题[6, 7]。本文后面讨论略有涉及。由于问题复杂，笔者将另文探讨。 2.2 各态遍历 我们往往通过分析一个系统的参数在时间上的平均结果来刻画系统。 比如，在前面所用的单摆中，我们要求系统的平均动能或者势能，只要给定时间长度，对动能或者势能按时间求平均即可。虽然这个时间平均结果会随着起始观察时间的不同而不同，但是只要观察时间足够长，这些不同的结果将趋向一个定值，为系统总能量的一半。 这个问题也可以换一种方式来解决。

2.3 吉布斯的“刘维尔定理” 现在我们来看，吉布斯是如何通过刘维尔定理来找照片的简洁处理方式。需要顺便解释的是，刘维尔（P. J. Liouville）和吉布斯是两个人，为什么这里叫吉布斯的刘维尔定理？刘维尔曾经在1783年处理了一个微分方程解的问题[8]，后来玻尔兹曼在处理分子体系的问题时，引用了刘维尔解方程的相关思想，所以玻尔兹曼将之称为刘维尔定理[9]，而吉布斯则沿用了玻尔兹曼的叫法。但吉布斯的刘维尔定理，其内涵已经完全是统计力学的了。 现在回到我们的问题。针对单摆，如果我们不停地让外来小球撞击摆锤，则动能和势能平均值既有可能随起始观察时间不同而不同，也有可能不会随时间延长趋于一个定值。 现在我们限制条件，考虑在有外来小球撞击情况下，时间平均在时间趋于无穷时趋于定值的情况。看看在这种情况下，有没有办法使用系综平均。 外来小球的撞击，每一次都改变了系统的能量。因此，容易想象，按照一个合理的分布，既选取系统能量不同的单摆的照片，也选取同能量的单摆运动处于不同时间的照片，应该可以使用系综平均的结果。

图3. 刘维尔定理：相体积不变 吉布斯采用一段非常数学化的语言，来描述刘维尔定理：“当相空间中的限定于一定相空间范围的相按照系统（内外）的力——这些力是位置坐标的函数，同时函数可以显含或者不显含时间，所遵循的动力学规律随时间变化时，其限定的范围的体积值保持恒定。”（吉布斯的原文为：When the phases bounding an extension-in-phase vary in the course of time according to the dynamical laws of a system subject to forces which are functions of coordinates either alone or with the time, the value of the extension-in-phase thus bounded remains constant.）[11] 即由公式（7）和（9），有：

公式（10）即刘维尔定理的数学表述。

3 系综理论 3.1 正则系综 对于一个热力学系统，我们也是通过一定时间的观察，来获得相关的热力学量的。也就是说，我们通过时间平均来求取参数。比如一个容器内有1摩尔氢气，我们是可以通过一定时间观察温度计而得到温度，观察压力传感器而得到的压强的。但是，从微观角度分析这个过程，我们必须考虑6.02×1023个氢气分子中，每个分子的三个平动和三个转动坐标，考虑相互撞击以及彼此间的范德瓦尔斯力，还要考虑分子内部两个氢原子之间的振动和转动，要考虑分子受到容器壁撞击而致体系内外能量发生传递，就像单摆摆锤受到撞击一样…… 显然，我们可以像前面处理单摆一样，来分析容器内的1摩尔气体。当然，现在系统的自由度要大得多，有6.02×1023×（6+2）个自由度。但是，对于这样的正则系统的系综，应该使用的分布，是什么样子呢？

图5 单摆轨迹的最后分布 在动画中，单摆最大振幅一定，则能量一定，摆球沿着等能线运动；当受到外来扰动时，单摆改变振幅，即从一个等能线调到另一个等能线运动。系统的扰动类似公式（13），是按照概率随能量指数变化而设定的，能量越高，单摆到达的可能性越小；最后单摆的轨迹分布则表明了能量轨道按指数分布的情况。轨迹图中，颜色越偏粉红，概率越大；越偏蓝，概率越小（如图5）。容易想象，按照这张轨迹图，我们可以相应定出单摆系统的统计“温度”。 3.2 微正则系综 微正则系综是一个特殊状况。 微正则系综选择的系统都具有同样的能量。由于刘维尔定理的要求，微正则系综对相空间的状态选择了等概率分布。从集合的角度看，一个典型的正则系综，是由一系列微正则系综“粘合”而成，所以微正则系综是正则系综的子集。这也正是“微”这个词的由来。从前面单摆的例子中，我们也可以看出这一点。 在统计力学发展之初，温度被理解为一个系统中每个粒子在三维空间中的某个方向的平均动能，后来经过玻尔兹曼处理，温度被理解为一个力学体系（这个力学体系当然是为了描述微观粒子的运动的）各个独立自由度对应的平均动能。因此，一个微正则系综是可以定义温度的。 仍以单摆为例。显然一个单摆构成的系统，只有一个自由度，其温度即为其平均动能，即为总能量的一半除以kB。如果使用两个单摆构成的系统，有两个自由度，其温度为总能量的四分之一除以kB。 需要强调的是，这里单摆是一个玩具式的模型，是关于微观粒子运动的一个抽象或“类比”，而不是真的有个单摆系统有“温度”。但是，以上内容也提示我们，所谓温度，有两个不同的定义：一个是系统平均动能，这是物理学科的通常理解；另一个是关于热力学系统的统计参量，是统计力学所特有的。 3.3 巨正则系综 巨正则系综，按照吉布斯的定义，则是由自由度不同的系统构成的系综进一步合并而形成的系综。比如，有一个空间区域，有N个气体分子，这个空间区域和N个气体分子构成的系统的各种可能状态及其分布，就构成了一个系综。如果我们选用正则分布，那么这个系综就是正则系综。以同样的方式，在同样的区域和相同的外部条件下，我们还可以得到一个有N+1个分子的正则系综。我们把由N个，N+1个，......分子的系统构成的各个系综合并在一起，就得到一个巨正则系综。而由巨正则系综得到的分布，则与体系自由度的选择紧密相关，在相空间中，这个分布为：

其中，Ω仍是跟概率有关的归一化常量，μj是某种分子的化学势，νj是此种分子的数目。这个时候，

随着不同分子的数目变化，n也随之变化。[14] 所以，我们就理清了三个系综之间的关系：微正则系综中关于系统的集合，是正则系综的系统集合的子集；而正则系综的系统集合，是巨正则系综的子集。吉布斯专门为正则系综取了个名字，叫小系综（petit ensemble）。 4 讨论 4.1 “系统”的选定与“环境”的要求 系综理论中，系统的选定，往往在具体问题中带来概念的混乱。 比如，在前述的气体分子的问题中，选择系统可以有三种方式：（1）把一个气体分子选为一个系统；（2）把封闭空间内的一个局部以及其中的气体分子选为一个系统；（3）把一个封闭空间和其中的所有气体分子选为一个系统。 除非是一个孤立系，这三种选择都面临着如何选择系统所处的环境的问题。显然，一个气体分子周围的环境是其他的气体分子；一个局部的环境是其邻近的局部；一个封闭空间的环境则是与其有热量交换或者压强作用的外部。吉布斯要求，对于一个系综中的各种处于不同状态的系统，在同一时刻，其对应环境反而应该一模一样。[15]

4.3 分布带来的问题 一个有趣的问题是：一个大孤立系的宏观局部，其温度的涨落是正态分布的呢，还是正则分布呢？ 比如，对于一个理想气体构成的孤立系，如果将整个大的孤立系按体积均匀划分成许许多多子系统，这些子系统合在一起构成了一个巨正则系综（这时公式（14）对应的系综的条件是近似满足的），那么这个系综对应的分布应该是个巨正则分布。所以一个子系统的温度，即这个子系统按照每分子平均的平均动能，其随时间的涨落，应该是正则分布的。 但是，从另一个角度考虑，如果这个子系统内的气体分子满足玻尔兹曼-麦克斯韦分布，那么当子系统内有巨量的分子时，由大数极限定理，则系统的平均动能，其随时间的涨落，其应该是正态分布。 仔细的人应该能够发现，大数极限定理成立的条件，要求参与统计的各样本是统计独立且同分布的，即满足i.i.d（independent identity distribution）。而由于整个孤立系的能量是恒定的，所以参与统计的子系统内的各个气体分子同样要受到总能量的约束，所以它们统计上并不独立，并不是i.i.d。一个子系统的情况，应该将之与整个系统合起来分析。这也暗示，严格而言，我们不能够把一个大系统分成均匀分割成一系列子系统，并以这些子系统的集合作为系综。 4.4 一道习题 为了进一步区分速率分布、系综和时间平均的概念，现设计一道习题如下。 有一边长为1cm的立方箱子，里面充满了理想气体，其原子的分子量为1，压强为1标准大气压，温度为27摄氏度。箱体通过理想的隔板与外界隔绝，不传力，也不传热。现求： (1)气体分子的速率分布； (2)气体分子的能量分布； (3)将整个空间分成10000个等大小的单元，求某一时刻这些单元的能量的最可能的分布； (4)固定某一个单元，求此单元随时间变化的能量起伏的分布； (5)在立方箱子内插入微型电子温度计，电子温度计的探测表面积1mm2，电子温度计响应时间是10ms；求电子温度计在不同时刻测得温度的值的分布。（假定电子温度计对气体分子运动完全没有干扰） 这道题目是可以通过计算机仿真来近似解的，而系统随时间变化的情况，可以用平均自由程和最可几速率简化分析。为了不给读者先入为主的概念，这里不给出答案。 4.5 奇点带来的问题 另外一个经常被提及的问题是，当系统的运动在相空间中出现奇点时，系综平均是否还可以代替时间平均？ 一般的看法认为，除了力学系统中有限的几个奇点，其余位置各态历经依然是成立的。由于奇点本身数量极稀少，所以这些奇点对问题处理不构成影响。 需要注意的是，在真实的实验体系中，所谓时间平均，不可能是无穷久的时间测量，测量总是在一定时间范围内进行的。而在奇点附近，对系统行为的衡量在时间上有巨大差异。因此，奇点对体系行为有巨大的影响。这个问题在非平衡体系中有大量讨论，在平衡体系中往往忽略。篇幅所限，此处不展开讨论。 5 致谢 文章写作的动议由犹他大学吴咏时教授提出，特此致谢！ 在写作中，笔者对系综理解问题，进行了调查。我的同事陈熹、姚尧、张弜、赵宇军参与了调查；中国科学院物理所曹则贤研究员通过电话参与了调查；介观热力学微信群众多群友参与了调查，尤其华盛顿大学钱纮教授指出了温度作为统计量的有关思想，山东大学胡中汉教授、中国科技大学龚明教授和厦门大学刘越教授就温度问题进行了辩论。南京大学鞠国兴教授提供了有关吉布斯系综的分析文献。陈熹教授多次与笔者讨论，并修改有关内容。北京师范大学教师马宇翰博士[16]、魏茨曼科学研究所博士后吉文成博士等提出了文中涉及的相关有趣问题。此处向他们一并致谢！ 浙江大学姬扬教授为笔者挚友，多年来对笔者的探索一直鼓励支持，并审读了文稿，特此致谢！