传播理论与信息理论问题：能否用数学关系式来表达消息中的“冗余”与“信息”比例关系( 三 )
和
决定，似乎不能够很简单地概括为“冗余大”或者“冗余小”，必须要看具体的结构。在具体结构已知、并且对冗余的大小有好的定义的情况下，我们应该可以得到题主要的关系式。下面我用上面的框架考虑一个具体的例子。假定我们编码方式的特征是
, 从而
, 其中
. 我们可以用
来表征”冗余“的大小。我们进一步model我们的噪声，假设噪声的特性是：对于任意一个
，它等可能性地畸变为
。我们来看一看编码的冗余程度和抗噪声的特性之间的关系。容易验证，此时”发生信息畸变的情况下，解码后信息保持不变“的概率为：
显然，冗余程度，即
，越大的话，上面这个概率也就越大。而当没有冗余时，这个概率为0， 即这个系统完全不抗噪声干扰，符合我们上面的结论。从上面的框架可以看出，信息的较佳编码方式取决于我们对于噪声的model， 也就是条件概率
，我们应该尽可能地让
比较大的
为
的子集，这样可以增大 【传播理论与信息理论问题：能否用数学关系式来表达消息中的“冗余”与“信息”比例关系】
的值，也就是增加抗噪声的能力。比如像Hamming code, 用0-1序列对0-1序列信息进行编码，它可以看做是假设了噪声产生单数位(Single Digit)畸变的概率最大，因此Hamming Code当发生单数位畸变时原信息都可以保持不变。上面内容仅为一个学过数学的外行的思考，没有参考文献，因此不对正确性负责，但是内容经过本人的仔细检查。有问题欢迎指正。也欢迎信息学相关专业的同学提供更好的答案。以上。
推荐阅读
- 广东警方曝光38款存在超范围收集用户信息违规行为App
- 家长反映老师索贿遭声讨后找人理论被拘20天？河北警方通报
- 直播会成为品牌传播的另一个途径么有哪些可行的方法感觉有戏又没头绪好捉急。
- 小米手机的指纹信息保管安全吗
- 学图像处理有哪些不错的书推荐
- 雨下|全球关于禁售燃油车只是理论上可行吗
- 讴歌MDX|于12月8日正式发布，讴歌全新MDX更多信息曝光！
- 电商会怎样存储和保护客户的信用卡信息不被泄漏
- 企业信息化系统可否自己搭建
- 疾病|医生不避讳：4种疾病可以通过性传播，思想开放的人要小心了