《广义信息论》后记

 

    作者之所以要写这本书,首先是因为他以为自己发现的东西非常巧妙,想拿出来和外国人的东西一比高低;其次是因为他的一些发表和未能发表的论文屡遭误解。既然是论文就不能太长,可是短了又留下种种疑问;比如,逻辑概率是什么?隶

属度有客观意义吗?信息怎么会是负的…?要不留疑问或少留疑问,只有写书才行。

    作者也曾在其他领域超越正统。他常常受到入侵者所受到的盘问:你的专业是什么?你是哪儿毕业的?你为什么干我们这一行?作者申明,这并不是因为他高明,只是因为他总是好奇,总是异想天开,于是就碰巧发现了一些别人没有注意到的

东西。

  其实,建立新的信息理论并不是作者的初衷,他起初也没有意识到Shannon理论的局限性。为使读者对本书有一个更好理解,下面说一说他是怎样步入信息论领域,怎样随着问题的深入一步步由信息领域的保守派变为激进派的。

 

作者中学毕业刚刚插队农村时就接触到达尔文理论,在南航读书的最后一年(1981),他居然不务正业地研究起进化论和美学来。他的论文写作就从统一这两者开始。可以想见,这种努力是怎样不合大流。“不伦不类”的评语那时就有过。

 

    接着,他“发现”颠倒色觉无法察觉的逻辑可能性,于是研究关于一般感觉的哲学问题,继而又研究色觉机制问题,并有幸建立了一个对称的色觉机制数学模型——译码模型。为了令人信服,他还做了一个物理模型。因为其中所用逻辑和流行

的模糊逻辑相似,于是就携带物理模型参加了1985年全国第二次模糊数学会议。这一模型引起了不少人的兴趣,特别是得到了北师大汪培庄教授的关注。同时这次会议上汪先生报告的随机集落影理论也在作者头脑里深深地扎下了根。

 

    作者相信,真正了解译码模型人不会不为它的简洁和巧妙而感到惊讶。然而,在心理学和颜色光学领域不象在物理学领域,模型和经验公式似乎没有区别,只要你能把色光三刺激值转换为心理色就行,而不管你用了多少凑合参数;成见也不比信息论领域中少。有人坚持传统观点,认为基本的心理颜色是四种两对(红绿、蓝黄),而不象译码模型所肯定的那样是六种三对(红青、绿绛、蓝黄)。作者相信,理想的或进化将要达到的色觉应当是三对,三对较之两对有更高的色光分辨率,能提供更多信息。为了从信息论的角度说明三对优于两对,于是他研究感觉信息。然而,分辨率——它往往是模糊的——怎样影响感觉信息量?Shannon理论无能为力。作者一开始也没有想到使用超出Shannon理论的方法。

 

    感觉信息的研究没有结果,语义信息漫不经心的思考却意外地有了希望。他结合译码模型中使用的更与经典逻辑相容的连续值逻辑和随机集落影理论,得到一种遵循布尔运算的模糊集合代数;按照这一代数,可以构成一个集合的模糊划分,从

而可以用Shannon互信息公式度量某种情况下的语义信息。然而如此度量要求可选择语句在逻辑上互不相容;否则,语句的逻辑概率就不归一化,就不能使用Shannon公式。接着他又迈出了关键的一步——区别语句的选择概率(即普通概率)和逻辑概率;度量单个语句的信息用逻辑概率,而度量语句的平均信息兼用选择概率。这时,作者依然相信Shannon 理论的普适性,对种种模糊或广义信息测度不以为然。为使新想法适于旧公式,他又削足适履地假定,条件——语句被选择和条件——语句为真等价。这样在被选择语句可能逻辑相容时,信息也能用Shannon互信息公式度量。这一度量公式就是广义互信息公式在信源不变且预言和事实相符合时的特例。

   

只是为了公式更加简洁,才得出广义互信息公式的形式。但是,两种概率相互独立会导致负的信息,为了解释负信息才想到语句原来可真可假,想到谎言会导致负信息,想到这样的信息才是真正的语义信息。

    可幸的是,度量语义信息的公式可以原封不动地用来度量感觉信息,而且也能度量测量信号信息;不同的只是要用混淆概率代替事件在模糊集上的隶属度。由此他又想到,广义熵和Shannon 熵的区别是:广义熵只要求事件集合上存在一个相似

关系,而Shannon 熵则要求事件集合上存在一个等价关系——它是相似关系的特例。与此同时,他又研究了熵增大问题,信息熵和统计物理熵之间的关系问题。

 

    后来,他又想到要用广义信息量——即主观信息量反映通信质量,而不是象经典理论中那样用人为定义的失真量反映通信质量;于是改造经典的信息率失真论,得到保质信息率论。同时又发现了广义互信息的编码意义。

 

    作者早在大学读书时,就十分欣赏K.R.Popper的科学认识论。后来他终于认识到广义通信模型和Popper的科学进化模型以及马克思主义的实践检验真理思想极为一致;认识到广义互信息公式具有深刻的认识论意义。

    再后来,他发现了广义信息理论可以推广到控制论领域;发现了限误差信息率以及它和信息率失真以及热力学熵增大定律的关系。

    Shannon信息论的改造到此基本完成。

    本书提出的广义信息论不象是一个人为建造的理论;它更象一个自然“长”出来的理论。虽然如此,作者并不企望大家都喜欢它。一个人不喜欢它可能有种种原因,但是作者最希望看到的原因是他能提出更好的信息理论。

    本书一定存在许多不足和错误。希望大家能用本书提出的信息标准对本书予以评价,而不要用作者深恶痛绝的“无过便是德”的标准。作者欢迎批评、指教和交流。

    在此书问世之际,特此感谢给作者以知识和爱心的各位老师;感谢在作者处于困境中给他以帮助的朋友和亲人;感谢发表过他的论文的各位杂志编辑。作者在北师大当访问学者时的指导老师罗承忠教授和李洪兴副教授曾给予许多指教和帮助;北邮的周炯磐教授、钟义信教授和吴伟陵教授, 湖南师大的王身立教授,中国管理科学院的赵红洲研究员,中科院数学所的章照止研究员也曾给予指教和鼓励,在此一并致谢。作者同时感谢长沙大学校长李竣的支持。汪培庄教授历年来对本人的工作极为关心,他的随机集落影思想也是广义信息理论的一块基石,本人在此特表感谢,同时特别感谢为本书出版付出心血的各位朋友。

 

鲁晨光           

19935月于长沙大学