传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系

这个问题提的很好。我下午大概想了一下,觉得我可以从数学上给一个一般的框架来描述这个问题。首先,要回答你的问题,要明确地定义什么叫做冗余,以及什么叫噪声。我们总可以把一段信息传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
看成一个集合里的一个元素,即传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
,其中传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
是信息的状态空间。比如说信息是长为2的一个0-1序列: 传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
,那么状态空间 传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
就是传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
,信息传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
是状态空间的一个元素。我们这里的传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
是没有冗余的,因为每一个传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
中的元素都代表不同的信息。信息可以有不同的编码方式。所谓的编码,就是把状态空间传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
用另一个状态空间传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
的一些子集来表征。我们要求存在传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
, 且传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
是满射。也就是说,我们可以用传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
中元素的原象对传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
进行一个划分, 即:传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
,其中传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
因此,相当于我们用传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
的一个子集来表示传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
中的一个元素。实际中,我们不必用传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
来表示传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
, 只要找传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
中的一个元素传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
即可表示传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
. 如果要还原原来的信息,只需要用传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
即可,这一步可以称为信息的解码。如果映射传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
是单射的话,那么传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
这种编码方式是没有冗余的。但是,如果传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系
不是单射,那么传播理论与信息理论问题:能否用数学关系式来表达消息中的“冗余”与“信息”比例关系


推荐阅读