
1948 年,克勞德·E·香農(nóng)發(fā)表了一篇題為《通信的數(shù)學(xué)理論》的論文。彼時(shí),它只是一篇看起來(lái)相當(dāng)克制的技術(shù)論文,沒(méi)有宏大的宣言,也沒(méi)有鋪陳未來(lái)圖景。但正是這篇文章,在隨后半個(gè)多世紀(jì)里,悄然塑造了我們今天所熟悉的通信世界。
一年后,這篇論文以圖書(shū)形式再版,并配上了沃倫·韋弗的導(dǎo)言。論文標(biāo)題到書(shū)名的變化極其細(xì)微,卻隱含著一個(gè)重要轉(zhuǎn)折:通信不再只是工程經(jīng)驗(yàn)的集合,而是第一次被系統(tǒng)地提升為一門可以被精確討論的理論。
這本書(shū)專業(yè)性很強(qiáng),卻長(zhǎng)期保持著穩(wěn)定的讀者群。英文版累計(jì)銷量超過(guò)四萬(wàn)冊(cè),至今仍每年持續(xù)售出,被許多信息論相關(guān)課程列為必讀書(shū)目。50 周年紀(jì)念版的出版,甚至幾乎沒(méi)有對(duì)內(nèi)容做任何改動(dòng),只是修正了多次印刷中遺留下來(lái)的排版錯(cuò)誤。
真正耐人尋味的,并不是它賣了多少本,而是它為何能一直被讀下去。
01
香農(nóng)寫(xiě)作的方式,本身就是一種判斷
在這部著作中,香農(nóng)采用了一種在今天并不多見(jiàn)的寫(xiě)作風(fēng)格,語(yǔ)氣克制、表達(dá)溫和、數(shù)學(xué)推導(dǎo)點(diǎn)到即止。他并沒(méi)有急于展示復(fù)雜的證明,而是試圖先抓住通信問(wèn)題中最核心的結(jié)構(gòu)。
他關(guān)心的并不是某一種具體的通信系統(tǒng),而是通信這件事,在本質(zhì)上到底是什么?
因此,很多后來(lái)被視為標(biāo)準(zhǔn)結(jié)論的證明,并不出現(xiàn)在這本書(shū)中,而是由后來(lái)的研究者逐步補(bǔ)充完成。但香農(nóng)在最初給出的直覺(jué)和框架,卻始終成立。
也正是這種先講清楚問(wèn)題,再談證明的方式,讓這本書(shū)在半個(gè)世紀(jì)之后依然具有生命力。
02
并非來(lái)自現(xiàn)實(shí)系統(tǒng)的判斷
書(shū)中有一個(gè)著名的論斷:所有通信在本質(zhì)上都是數(shù)字通信。
在今天,這句話幾乎無(wú)需解釋。我們已經(jīng)習(xí)慣用比特、碼流、帶寬來(lái)理解世界,甚至很難想象還有其他可能性。但在 50 多年前,這樣的判斷并沒(méi)有受到普遍歡迎,甚至遭遇過(guò)懷疑和冷漠。
香農(nóng)并不是在描述當(dāng)時(shí)已有的工程現(xiàn)實(shí),而是在指出通信問(wèn)題中真正重要的抽象結(jié)構(gòu)。正因?yàn)槿绱耍拍軐⑼ㄐ胚^(guò)程拆分為信源、編碼、信道、解碼等幾個(gè)相互獨(dú)立又彼此關(guān)聯(lián)的模塊。
這種劃分方式,在今天的教材中幾乎成了常識(shí)。但在當(dāng)時(shí),這種抽象本身就是一種突破。
03
用“熵”去理解通信,一次觀念上的躍遷
在對(duì)通信系統(tǒng)進(jìn)行拆解之后,香農(nóng)進(jìn)一步提出:可以用“熵”和“條件熵”來(lái)刻畫(huà)信源與信道的性質(zhì)。
這些概念并不是為了增加復(fù)雜性,而是為了讓“信息量”“不確定性”“容量”這些原本模糊的直覺(jué),變成可以計(jì)算、可以比較、可以優(yōu)化的對(duì)象。
香農(nóng)通過(guò)一組直觀的公理,引入了這些量,并給出了精確的編碼定理,為它們的使用提供了堅(jiān)實(shí)的理論基礎(chǔ)。由此,諸如“信源包含多少信息”“一個(gè)信道最多能傳輸多少信息”這樣的問(wèn)題,第一次擁有了清晰而可操作的答案。
04
信道容量,成為通信工程的終極標(biāo)尺
香農(nóng)理論最深遠(yuǎn)的影響之一,是信道容量這一概念。
一方面,它在理論上給出了希望:只要傳輸速率低于信道容量,就存在一種編碼方式,使得錯(cuò)誤率可以被壓低到任意小。香農(nóng)給出的存在性證明,讓人們第一次看到近乎完美通信的可能性。
另一方面,它也劃定了邊界:無(wú)論工程手段多么高明,都不可能突破信道容量的限制。這個(gè)上限,成為通信系統(tǒng)設(shè)計(jì)中無(wú)法繞開(kāi)的基準(zhǔn)。
在隨后的幾十年里,從調(diào)制解調(diào)器到深空通信,從磁帶、光盤(pán)到高速互聯(lián)網(wǎng)和高清電視,各種通信系統(tǒng)的設(shè)計(jì)與優(yōu)化,都在不斷逼近這一理論極限。如果沒(méi)有香農(nóng)容量公式的指引,許多進(jìn)展可能會(huì)更加緩慢,也更加盲目。
05
一種智慧,最終超越了技術(shù)本身
信息論并不是在一夜之間成熟的。它經(jīng)歷了半個(gè)世紀(jì)的發(fā)展,匯聚了數(shù)百位研究者的努力,才逐步形成今天的樣貌。
但很難想象,如果沒(méi)有香農(nóng)最初給出的那組判斷,這門學(xué)科會(huì)以怎樣的方式誕生。
沃倫·韋弗在書(shū)中所作的導(dǎo)言,早早意識(shí)到香農(nóng)思想的影響不會(huì)只局限于通信工程。語(yǔ)言學(xué)、社會(huì)科學(xué),乃至更廣義的交流問(wèn)題,都從中獲得了啟發(fā)。
或許,香農(nóng)留給我們的最大遺產(chǎn),并不僅僅是若干公式或定理,而是一種看待問(wèn)題的方式:先抓住結(jié)構(gòu),再討論實(shí)現(xiàn);先理解本質(zhì),再追求復(fù)雜。
![]()
《通信的數(shù)學(xué)理論》
克勞德·E.香農(nóng), 沃倫·韋弗 | 著
李錫涵 | 譯
信息論領(lǐng)域的奠基之作,本書(shū)分兩部分詳細(xì)解釋了通信的數(shù)學(xué)理論基礎(chǔ)。第一部分提供了通信領(lǐng)域的全景式概述,為讀者進(jìn)入更深入的數(shù)學(xué)理論部分作鋪墊。第二部分深入探討了通信理論的數(shù)學(xué)基礎(chǔ),包括離散和連續(xù)信源、信道容量、編碼理論等核心概念,并討論了這些理論在通信系統(tǒng)中的實(shí)際應(yīng)用。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.