是这样的,熵的大小不在于具体是哪一种分布,而在于我们是否知道其分布。如酸奶所说,S=klnW,其中W是指一种宏观态对应的微观态数量,即我们认为相同(同一个宏观态)的一组微观态,一共有多少个,那么宏观态的熵就可以相应计算。 信息的定义基本是一个原理,形式有所不同,是S=-p_i*ln(p_i),下标i表示求和。这些不同pi,是被“认为”同一个状态的各种“实质不同”的状态(由于信息不xx),如果每个情形出现的概率为p_i。 可见,{dy}个毫无疑问是0。第二个看lz的意思是知道了文件的二进制形式,那么也就是0。第三种是随机数,我们可以认为移动硬盘N个位,共2^N种情况,每种等概率为1/2^N,熵为S=1/2^N*ln(2^N)=Nln2/2^N,这是{zd0}熵。等概率情形信息达到极小,而熵取到{zd0},这正是我们期望的。 to Exile:对,差一个玻尔兹曼常数