从直觉说起
一盒整齐排列的火柴,摇晃后变乱——这个方向是自然的;反过来,摇晃让乱掉的火柴自动排整齐,几乎不可能。
熵(Entropy)就是描述这种"无序程度"的物理量。
热力学定义
克劳修斯定义:熵的变化 dS = δQ / T(可逆过程中,热量除以温度)。
热力学第二定律:孤立系统的熵不会减少——它只会增加或保持不变。
这就是"时间之箭":为什么杯子会摔碎而不会自发复原,为什么热量从高温流向低温而不会反向。
统计力学解释(玻尔兹曼)
玻尔兹曼给出了更深刻的解释:
S = k ln W
- W 是系统对应的微观状态数("排列方式的数量");
- k 是玻尔兹曼常数。
含义:熵衡量的是"有多少种微观排列方式,对应我们看到的同一个宏观状态"。
为什么熵会增加:因为"无序"的宏观状态,对应的微观排列方式数量远多于"有序"状态。
把火柴摇乱的方式有亿万种,而恰好摇成整齐排列的方式只有一种——所以随机摇晃的结果必然是变乱。
这不是"自然界偏爱混乱",而是概率的结果。
常见误解
误解一:"熵就是混乱。"
这个比喻有用但不精确。更准确的说法是"熵衡量微观状态的多样性/不确定性"。
误解二:"熵增意味着一切都会腐坏。"
熵增是针对孤立系统的。开放系统(如生命体、地球)可以通过从外界输入能量、排出熵来维持局部的低熵状态。
生命正是靠不断"排出熵"来维持自身的秩序——薛定谔在《生命是什么》中称之为"以负熵为食"。
误解三:"进化违背了熵增定律。"
没有。地球接收太阳能、向太空辐射热量——整个"太阳—地球—太空"系统的总熵仍在增加。
信息论中的熵
香农独立提出了形式相同的信息熵:
H = -Σ p(x) log p(x)
含义:衡量信息源的"不确定性"或"平均信息量"。
- 一个总是说同一句话的信息源,熵为 0(没有信息量);
- 一个完全随机的信息源,熵最大。
信息论与热力学的联系:两者在数学形式上相同,且通过"麦克斯韦妖"的思想实验和兰道尔原理(擦除 1 比特信息至少要消耗 kT ln2 的能量)建立起了物理联系。
实际应用
- 化学:判断反应能否自发进行(自由能 = 焓 - 温度×熵);
- 数据压缩:熵给出了无损压缩的理论下限;
- 密码学:密钥的熵衡量其不可预测性;
- 机器学习:交叉熵是分类任务的标准损失函数;
- 宇宙学:宇宙的终极命运("热寂"假说)与熵增有关。
注意:"热寂"是把热力学第二定律外推到整个宇宙的推测,涉及宇宙是否有界、引力系统的熵如何定义等未解决的问题,并非确定的科学结论。
说明:本文为物理学的知识整理。