香农信息和信息熵是香农信息论中的两个关键概念，香农信息论为通信工程中信息的传输、存储、压缩和处理提供了框架。然而，香农信息和信息熵在通信工程以外的领域的使用可能不符合我们通常对信息和信息量的理解。根据 Weaver 【1】的说法，“在这个[香农信息]理论中，信息一词具有特殊的含义，不能与其普通用法相混淆。特别是，信息不能与意义相混淆。” 事实上，香农信息(量)大对应的“信息”是普通用法中意义不大的“信息”。例如，“由无意识的计算机程序或自然的、物理的无意识过程产生的“信息”是廉价的、无价值的、无意义的信息。只要让它永远运行，它就会产生源源不断的“信息”！这不是人类所说的信息。这是真正的悖论”【2】。为了帮助理解这一点，Korthof【2】展示了 3 个版块，所有版块都包含一个印刷词“信息”。第一个版块仅具有灰色背景，“信息”字样很清晰；第二个版块添加了一些噪声（如模糊的油漆）， “信息”字样比较模糊；第三个版块添加了最大量的噪声， “信息”字样完全看不见。噪声的增加对应于香农信息(量)的增加，但是“信息”字样变得越加模糊，有意义的信息在减少。也就是说，香农信息(量)的增加对应于有意义信息的减少，反之亦然。

取自【2】

参考文献

【1】  Weaver, W. (1949). Recent contributions to the mathematical theory of communication. In C. E. Shannon and W. Weaver, editors, The Mathematical Theory of Communication University of Illinois Press, Urbana.

【2】Gert Korthof, Information Content, Compressibility, Randomness and Meaning. Published: 18 June 2000. Postscripts 20 Oct 2009 and 20 Feb 2020. https://wasdarwinwrong.com/kortho44a.htm