别人成仙得道,我是白骨成精分享 http://blog.sciencenet.cn/u/qiaoqiao1980 寻找新物理学

博文

从混沌到秩序:复杂世界的重整化之旅(第十七章)

已有 574 次阅读 2026-2-13 21:33 |个人分类:我思故我在|系统分类:观点评述

第十七章 信息热力学:从平衡到非平衡的统一一、随机热力学的诞生:小系统的热力学

    1990年代,一个革命性的理论框架出现了,将热力学扩展到小系统——其中涨落不可忽略,传统宏观定律失效。这就是随机热力学(Stochastic Thermodynamics)。

    核心思想

    传统热力学描述系综平均(Ensemble Averages),适用于大量粒子。随机热力学追踪单个轨迹(Individual Trajectories),定义轨迹层面的热力学量:

  • 随机熵产生(Stochastic Entropy Production):image.png,其中 q 是轨迹的热交换;

  • 随机功(Stochastic Work):image.png,其中 e 是轨迹的能量;

  • 随机自由能变化image.png

    这些量 fluctuate  around  their  ensemble  averages,但满足精确的等式关系——涨落定理(Fluctuation Theorems)。

    涨落定理:第二定律的微观基础

    积分涨落定理(Integral Fluctuation Theorem, Seifert 2005):

image.png

其中 ⟨⋅⟩ 表示对所有轨迹的平均。由Jensen不等式,这 implies:

image.png

这就是第二定律——但现在是轨迹层面的统计陈述,而非宏观定律。

     详细涨落定理(Detailed Fluctuation Theorem):

image.png

这给出了负熵产生(违背第二定律)的概率:虽然罕见,但可能。对于小系统,"违背"第二定律的轨迹并非不可能,只是指数 unlikely。

    Jarzynski等式

    1997年,Christopher Jarzynski发现了一个惊人的等式:

image.png

其中 w 是非平衡过程的功,ΔF 是平衡自由能变化。这意味着:即使过程远离平衡,通过测量功的分布,也能提取平衡热力学量

    Jarzynski等式已被实验验证,用于测量生物分子的自由能景观(如RNA折叠、蛋白质展开)。

二、信息热力学:反馈控制的熵学

    2008年,佐川敏郎(Takahiro Sagawa)和上田正仁(Masahito Ueda)将随机热力学扩展到反馈控制系统,建立了信息热力学(Information Thermodynamics)。

    广义第二定律

    对于包含反馈的系统,第二定律被推广为:

image.png

其中 I 是反馈信息(互信息)。负号表示:信息获取可以补偿熵增,但不超过信息本身的热力学价值I

    信息-熵不等式

    更精确的界限是信息-熵不等式

image.png

这统一了:

  • 无反馈(I=0):恢复标准第二定律;

  • 完美反馈I→∞):原则上可以逆转任何过程;

  • 麦克斯韦妖(第十五章):信息image.png补偿熵减image.png

    涨落定理的推广

    信息热力学也推广了涨落定理。Sagawa-Ueda涨落定理

image.png

其中 i 随机互信息(Stochastic Mutual Information),轨迹层面的信息获取。这 implies:

image.png

恢复广义第二定律。

三、活性物质:自驱动的热力学

    活性物质(Active Matter)是远离平衡系统的典范,其中个体消耗能量自我推进。例子包括:

  • 生物系统:细菌、细胞、鱼群、鸟群;

  • 合成系统:自驱动胶体、微机器人。

    活性物质挑战传统热力学,因为它持续违反细致平衡(Detailed Balance)——即使在没有宏观梯度的情况下,也存在定向流。

    活性物质的熵产生

    2025年的研究建立了活性物质的热力学框架

  • 游泳压力(Swim Pressure):自驱动粒子对容器的压力,源于与环境的动量交换;

  • 非平衡化学势:可以定义,但与平衡化学势不同,依赖于活动性;

  • 熵产生分解:总熵产生分为"家务"部分(维持稳态)和"超额"部分(驱动有序)。

    活性物质中的信息

    活性物质不仅是能量驱动的,也是信息驱动的

  • 信号传导:细菌通过化学信号协调行为;

  • 群体感应(Quorum Sensing):细胞密度影响基因表达;

  • 集体计算:蚁群、鱼群通过局部互动解决复杂问题。

    这提示活性物质是信息热力学的自然实现——能量、信息、物质的统一。

四、从非平衡到自适应:临界性的热力学

    第九章讨论了自适应临界性(Adaptive Criticality)。从热力学视角,临界性是非平衡稳态的特殊类型,其中:

  • 熵产生率不是最小,而是最优

  • 信息产生率最大化;

  • 耗散结构最复杂。

    临界性的热力学签名

    临界系统的热力学特征:

  • 1/f噪声:功率谱image.png,暗示所有时间尺度都有活动;

  • 长程关联:关联长度发散,导致非广延熵;

  • 涨落-耗散关系破坏:平衡关系失效,需用非平衡涨落-耗散定理

    自适应的热力学

    自适应系统调节自身参数,维持在临界点附近:

  • 反馈增益:根据环境调整响应强度;

  • 探索-利用权衡:高熵产生(探索)与低熵产生(利用)之间的平衡;

  • 学习作为熵产生:更新内部模型产生不可逆熵。

     这与自由能原理(第十八章)一致:系统最小化变分自由能,等价于最大化证据,同时最小化复杂性。

五、活性算法视角:信息热力学作为微观基础

     从"活性算法"的框架看,信息热力学提供了自由能原理的微观基础

     轨迹层面的自由能

     定义随机自由能

image.png

其中 e 是能量,s 是随机熵。Jarzynski等式可以重写为:

image.png

这暗示:自由能是轨迹层面的势函数,系统趋向最小化它。

     信息作为自由能

     互信息 I 可以视为相关性的自由能成本。在信息热力学中:

image.png

信息获取降低总自由能,但信息擦除增加自由能(兰道尔原理)。

     从随机热力学到主动推断

     主动推断(Active Inference)是自由能原理的动力学实现。从随机热力学视角:

  • 感知:测量环境,获取信息,降低不确定性(熵减);

  • 行动:改变环境,使预测成真,降低自由能;

  • 学习:更新模型参数,优化长期自由能。

     这对应于信息热力学循环

  1. 测量:信息获取image.png

  2. 反馈:利用信息做功,image.png

  3. 耗散:向环境输出熵,image.png

  4. 擦除:复位记忆,image.png

    活性物质作为活性算法

    活性物质是活性算法的物理实现

  • 粒子 = 推断者:每个自驱动粒子根据局部信息行动;

  • 相互作用 = 信息交换:碰撞、化学信号、视觉线索;

  • 集体行为 = 涌现推断:群体作为整体解决优化问题。

    例如,细菌群落的趋化性(Chemotaxis)可以建模为梯度下降:每个细菌估计营养浓度梯度,调整运动方向,集体找到最优路径。

六、统一框架:从平衡到自适应

     信息热力学提供了一个统一框架,涵盖从平衡到自适应的所有系统:

表格 复制

系统类型         特征              热力学描述

平衡系统

细致平衡,无净流

最小自由能,最大熵

非平衡稳态

持续流,恒定熵产生

稳态热力学,涨落定理

反馈控制系统

信息获取,自适应

信息热力学,广义第二定律

活性物质

自驱动,集体行为

活性物质热力学,非平衡化学势

自适应临界系统

自组织临界性,学习

自适应热力学,自由能最小化

七、未来展望:信息热力学的 frontier     量子信息热力学

     量子系统的信息热力学正在快速发展:

  • 量子测量的熵成本;

  • 量子纠缠作为热力学资源;

  • 量子热机的效率极限。

      2024-2025年的研究表明,量子涨落定理量子信息论结合,为量子计算和量子生物学的热力学提供了新工具。

      生物信息热力学

      细胞是信息热力学的杰作:

  • 基因调控网络:信息处理与能量耗散的权衡;

  • 信号转导:噪声、增益、适应性的热力学极限;

  • 进化:种群作为信息处理系统,自然选择作为学习算法。

      人工智能的热力学

      大语言模型等AI系统的能耗日益增长。信息热力学提供了设计原则

  • 最优编码:最小化信息传输的能量成本;

  • 高效学习:平衡探索(高熵)与利用(低熵);

  • 可持续计算:考虑热力学限制的算法设计。

八、结语:在信息、能量与生命的交汇处

      信息热力学教会我们,信息不是抽象的,而是物理的;能量不是盲目的,而是信息的载体;生命不是偶然的,而是热力学必然的

      从麦克斯韦妖到随机热力学,从活性物质到自适应临界性,我们看到统一的主题:系统通过信息获取降低不确定性,通过能量耗散维持秩序,通过学习适应环境。

      从活性算法的视角,信息热力学是自由能原理的微观实现。它表明,最优的认知系统不是追求完美的预测,而是在不确定性中舞蹈,在信息与熵的权衡中寻找最优,在有限中触摸无限。

      请记住信息热力学的教训:最伟大的智慧在于知道知识的代价,最伟大的力量在于与不确定性共舞,最伟大的美丽在于从混沌中创造秩序



https://wap.sciencenet.cn/blog-41701-1522263.html

上一篇:从混沌到秩序:复杂世界的重整化之旅(第十六章)
下一篇:活性算法出现之前,我们对于复杂性的理解
收藏 IP: 111.27.170.*| 热度|

6 高宏 刘进平 钟炳 宁利中 崔锦华 郑永军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-2-15 00:14

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部