仙农其人其事其道(3)

http://dushuren123.com/lecture937606906.mp4

钟义信
查看全部 内容介绍:
收起 内容介绍:

 

 

 

仙农提出了编码理论,有了编码理论就可以达到既有非常的好的可靠性,又有非常高的效率。仙农也是可靠性理论的先驱。他指出,可以用不甚可靠的原件,构造足够可靠的系统。这些都是他对相关领域的颠覆性的贡献和创新,使得整个领域的设计、研究、应用,可以说进入了一个科学的新时代

 

 

然后对他学术上的事情也做一个概略的介绍。现在我们大家都会承认,他是信息时代的一个旗手,因为在他之前,虽然信息技术已经有了,但是从理论上来讲,能够把这个通信从理论上得到一个很好的统一的描述,分析,设计,这个工作是仙农的1948年发表的这篇《通信的数学理论》所奠定的。而且他把模拟的变成数字的,变成数字以后,像刚才讲的那个模拟的,原来这种开关电路也都有统一的理论了,所以整个数字化的信息技术可以认为是他开创的。

 

我们说仙农是信息时代的旗手表现的第一个方面,就是他是数字化技术的开创者。今天咱们知道那个PCM,脉冲编码调制,就是他首先在理论上把它确立起来的,可以认为就是信息技术从模拟化的时代,进入到数字化的时代,这是一个标志,也是一个关键;第二,他是开关逻辑理论的创立者,因为信息技术当中逻辑开关太多了,特别是计算机,计算机就是一些开关电路的一个逻辑的组合,越来越复杂的逻辑。那么这个设计,如果要有统一的理论,那布尔代数是不可或缺的,这个是他在做硕士论文时候,发明了这么一个理论、应用;第三个标志就是保密理论的开拓者,这个刚才我们也提到过,当然最重要的是信息理论的奠基者。这用了一个“奠基者”,就是说后来的信息理论,还是有人继续补充,但是最根本的、最基本的信息理论的创造,都是仙农的那本叫做《通信的数学理论》奠定的。所谓信息时代,很多人都把这个信息理论作为一个理论的标志,就是在这一篇奠基文章当中,他第一次把信息这个概念,从很模糊、很朦胧,这样一个概念变成一个科学术语,因为信息,到底什么是信息?在他之前谁也说不清楚,消息、信号好像就是信息,数据好像都是信息,但是他就把这个概念变成一个非常严格的科学术语,在他这个文章里就讲,信息实际上是什么呢?就是消除不确定性的东西,这一来就很好鉴定了。它变成一个科学的用语、科学的术语,这也是很了不起,因为科学总是有它的最基本的概念,而信息科学是信息时代的最重要的一个学科,而它最基本的概念就是信息本身。那么信息的概念,如果一直是这么模糊、这么朦胧,模棱两可,那这个科学就建立不起来,所以这也是一个,非常重要的贡献。

 

还有他第一次建立一个信息熵的概念,它是用来消除不确定性的这样一种东西,而这个不确定性到底怎么来度量,他就建立了一个信息熵,用这样一个量,来度量这个不确定性,到底有多大,不仅仅可以计算,而且可以算出来具体的数值,也就是它必须要有单位,那么这就是今天我们大家都很熟悉的所谓比特,一个比特就是一个二进制,所消除的那个信息。比方说,到底这个时刻是会出现一个0,还是会出现一个1,这就是一个不确定。结果果然出现了一个0了,这就是信息,就把刚才那个不确定性给消除掉了,刚才那个不确定性有多大,我们把它叫做一个比特。将来你更复杂的不确定性,都可以用这个比特去度量它,是一个比特还是N个比特,或者几点几个比特,你可以算了,有了信息熵就可以算出来了。这样,这个学科一个最基本的东西,就变成可以严格的定量的描述。定性当然很重要,定量也同样重要,而且只有定量,才能够上升为科学的理论,所以建立了信息熵的概念,建立了一个信息度量的单位,这也是一个非常关键的一个贡献。

 

还有他第一次提出了一个信息当中的,冗余的概念,冗余就是不携带,或者很少携带信息的信号成分,这个叫冗余。那么有了这个冗余的概念就带来了,通信当中你给我多少信息,你传过这个信号过来,我能不能够把它压缩一点,因为压缩了以后我传的时候,信道的容量就可以节约,也就是这个资源用的就比较有效。如果没有冗余的概念,你压什么?一压就丢了信息了,那就不能压。如果你传过的信号有冗余,我就可以想办法,把这个冗余排除出去,这样就可以得到一种压缩的编码。而压缩以后的编码,它的效率就很高了,就是那种不带信息,或者带很少信息的这种成分,就可以排除掉了,这个是信息压缩的基本的理论根据。

 

另外有了冗余这个概念,也可以使得这个信号在传输的过程当中,我们有办法去保护它,因为传输过程当中,有各种的干扰,会使这个信息产生畸变。那么怎么样来保护它不产生畸变呢,或者产生了畸变以后,我能够把它恢复到,原来的、本来的这个信息,也就是用这个冗余,比如你原来传了一个信息给我,我把每一个信息都附加很多冗余,这样的话,用这个冗余跟原来的信息,建立一个比较明确的关系。或者代数结构、或者概率结构,建立了这个冗余的结构以后,受到干扰影响有了改变,但是我可以根据这个结构,给它恢复出来,这叫做纠错编码和检错编码。所以这个冗余这个概念建立起来,也是对这个信息技术的发展,有非常重要的意义。

 

还有也是他第一次建立了信道,传输信息的信道的容量的概念。就是一个信道,比方一根电线,或者一个无线电频谱,一段频谱宽度,它的容量到底是多少?这个量如果能够确立起来,那就对信息传输会产生非常重要的指导。我们知道,在仙农理论出现之前,一般的人都有一个印象,就是一个信道,如果你要想把这个信号传过去比较可靠,那怎么办呢?你就可以加大你的功率,或者你可以重复的来说,这样子的话,利用重复或者利用加大功率这些办法,可以使你的信号传到对方,发生错误的机会比较少,可是这样一来,就带来一个问题,就是如果你要使得这个信号传输过程当中,绝对不产生错误,那意味着你的信号的强度,要做得非常非常大,或者你要重复无穷遍。那么这样的话,就是一个矛盾的,就是你不断的重复,传授信息,那边可靠性才能够好,所以可靠性跟效率,就变成一个不可调和的矛盾,也就是大家讲,“熊掌跟鱼不可兼得”。你要么为了保证效率,那你就不可避免地,会使这个信号传输产生差错,要么你要保证它不错,你就要牺牲效率,好像这两个事情,都没有办法同时得到保证,但是仙农建立信息容量这个概念,和定量的计算之后,他就证明了只要你采用足够复杂的编码,就可以做到,既能够非常的有效,又能够做到非常的可靠,非常可靠到什么地步呢?就几乎不会出差错,非常有效到什么程度呢?几乎逼近了它的信道的容量,这样一来就把这以前通信工程师们,原有那个概念完全给颠覆了,原来就是说要么要绝对的可靠,你就要牺牲效率,要么你要保证高的效率,你就放弃,或者说,别追求高度的可靠,现在就两者都可以兼得,就熊掌跟鱼可以兼得,奥妙就是通过编码,当然这个编码是足够复杂。他就提出了这个编码理论,有了编码理论就可以使得,既有非常的高的可靠性,又有非常好的效率,所以这些都是通信理论破天荒的。

 

在这之前,人们没有这样一个认识,或者认识跟他的理论的结果是相反的,他颠覆了传统的概念,用理论证明,只要能够适当的编码,就可以做到既可靠又有效。另外,仙农还是机器博弈的先行者,刚才讲到提到过,他做了这个国际象棋的博弈机器的设计,他做的非常早,是一个先行者。还有计算机辅助设计的探索者,这个就是他的交换机设计,因为交换机就是继电器矩阵的一个设计,他利用布尔代数来设计,有了布尔代数的理论设计,就可以编成程序,自动的完成,所以这是计算机辅助设计的一个非常成功的典范,还是可靠性理论最早的一个理论的先驱。当然后来仙农没有继续往下做,但是他是开启了这么一个思想。这个可靠性的理论也很辩证,在哲学上非常有意义,他是讲可以用不那么可靠的元件,来设计足够可靠的系统。连元件是不怎么很可靠,但是我构成的系统就足够可靠。以前人们的想法,就是我要用绝对可靠的元件来设计,才可能设计比较可靠的系统。仙农说不,元件可以不那么可靠,但是系统用这些不可靠的元件设计,出来的系统就可靠,这有一套理论,也是冗余,就是冗余的理论。所以你看这些科学的观念、科学的理念、科学的结论,在他之前都是相反的。他这个理论出来以后,让大家都是大跌眼镜,就是以前想都想错了,现在有了这个理论,我们原来的观念都被颠覆了,这个理论的进步是非常巨大的。所以他成为一个旗手,就是使得人们真的眼界大开,使得整个领域的设计、研究、应用,可以说进入了一个科学的时代。

 

读书人简介:

作者(译者)面对面为你讲解一本书的核心要义。
喜欢就下载APP试用吧!

读书人简介:

作者(译者)面对面为你讲解一本书的核心要义。
喜欢就下载APP试用吧!