香农三大定理

香农三大定理是信息论的基础理论。

香农三大定理是存在性定理,虽然并没有提供具体的编码实现方法,但为通信信息的研究指明了方向。香农第一定理是可变长无失真信源编码定理。香农第二定理是有噪信道编码定理。香农第三定理是保失真度准则下的有失真信源编码定理。

香农三大定理给出了信道信息传送速率的上限(比特每秒)和信道信噪比及带宽的关系。香农定理可以解释现代各种无线制式由于带宽不同,所支持的单载波最大吞吐量的不同。

香农三大定理的物理意义:

从 1948 年,香农定律的提出,标志着信息论的建立,美国之所以能够对全球经济具有话语权,除了是因为强大的军事能力之外,还仰赖于香农定律构建的全球技术标准,让美国成为新帝国的垄断者。从 1G 到 4G 时代,美国都是主导者,但到了 5G 时代,以华为为代表的中国企业异军突起,争夺 5G 的全球领导权,这也是美国恼羞成怒的原因。

只有当我们能够处理的只是大块的物体而无法看出或处理借以构成物体分离的分子时,热力学第二定律才是正确的,并由此提出应当对热力学第二定律的应用范围加以限制。