信息熵、热力学熵及其在生命系统中的意义

摘要： 本文分别阐述信息、信息量、信息熵及热力学熵等基本概念的内涵，同时对这几个容易混淆的概念记性分析和比较。基于香农所提出的信息定义，深入分析了信源的不确定程度、信息熵和平均信息量的三者的等价关系，并从基本的实例出发，定量计算一个确定信息所包含的信息量的大小以及信源的信息熵。同时根据香农信息量公式和玻尔兹曼热力学熵公式，推导出信息熵和热力学熵的关系，即热力学熵是体系精确状态所缺乏的那些信息的度量，指出孤立系统总是朝信息熵减少的方向演化。最后从生命系统的角度阐述信息熵即负熵，对生命系统自组织的有序化结构形成的意义。

关键词：热力学熵、信息、信息熵、信息量、有序