信息量是个啥概念

信息用概率的负对数衡量。必然事件是必然发生的,所以没有信息量。几乎不可能事件一旦发生,具有近乎无穷大的信息量。
■网友
信息量在 数学系 \u0026gt; 信息与计算科学 \u0026gt; 信息论 里有。是作为信息“多少”的度量,这里的信息就是你理解的信息,比如一条新闻,考试答案等等。通常借助熵来度量,基本内容是:概率倒数取对数。如果是以2为底数,单位是bit;如果以e为底数,单位是nat;如果以10为底数,单位是det;
■网友
“信息量”的精确定义在计算机和信息论两个领域,前者通常叫“比特”,后者更常用“熵”,两个定义完全等效。有意思的是,熵同时还出现在热力学中。


    推荐阅读