从直觉说起

一盒整齐排列的火柴,摇晃后变乱——这个方向是自然的;反过来,摇晃让乱掉的火柴自动排整齐,几乎不可能。

熵(Entropy)就是描述这种"无序程度"的物理量。

热力学定义

克劳修斯定义:熵的变化 dS = δQ / T(可逆过程中,热量除以温度)。

热力学第二定律:孤立系统的熵不会减少——它只会增加或保持不变。

这就是"时间之箭":为什么杯子会摔碎而不会自发复原,为什么热量从高温流向低温而不会反向。

统计力学解释(玻尔兹曼)

玻尔兹曼给出了更深刻的解释:

S = k ln W

  • W 是系统对应的微观状态数("排列方式的数量");
  • k 是玻尔兹曼常数。

含义:熵衡量的是"有多少种微观排列方式,对应我们看到的同一个宏观状态"。

为什么熵会增加:因为"无序"的宏观状态,对应的微观排列方式数量远多于"有序"状态。

把火柴摇乱的方式有亿万种,而恰好摇成整齐排列的方式只有一种——所以随机摇晃的结果必然是变乱。

这不是"自然界偏爱混乱",而是概率的结果。

常见误解

误解一:"熵就是混乱。"

这个比喻有用但不精确。更准确的说法是"熵衡量微观状态的多样性/不确定性"。

误解二:"熵增意味着一切都会腐坏。"

熵增是针对孤立系统的。开放系统(如生命体、地球)可以通过从外界输入能量、排出熵来维持局部的低熵状态。

生命正是靠不断"排出熵"来维持自身的秩序——薛定谔在《生命是什么》中称之为"以负熵为食"。

误解三:"进化违背了熵增定律。"

没有。地球接收太阳能、向太空辐射热量——整个"太阳—地球—太空"系统的总熵仍在增加。

信息论中的熵

香农独立提出了形式相同的信息熵:

H = -Σ p(x) log p(x)

含义:衡量信息源的"不确定性"或"平均信息量"。

  • 一个总是说同一句话的信息源,熵为 0(没有信息量);
  • 一个完全随机的信息源,熵最大。

信息论与热力学的联系:两者在数学形式上相同,且通过"麦克斯韦妖"的思想实验和兰道尔原理(擦除 1 比特信息至少要消耗 kT ln2 的能量)建立起了物理联系。

实际应用

  • 化学:判断反应能否自发进行(自由能 = 焓 - 温度×熵);
  • 数据压缩:熵给出了无损压缩的理论下限;
  • 密码学:密钥的熵衡量其不可预测性;
  • 机器学习:交叉熵是分类任务的标准损失函数;
  • 宇宙学:宇宙的终极命运("热寂"假说)与熵增有关。

注意:"热寂"是把热力学第二定律外推到整个宇宙的推测,涉及宇宙是否有界、引力系统的熵如何定义等未解决的问题,并非确定的科学结论。

说明:本文为物理学的知识整理。