克勞德·香農(1916-2001)1916出生於美國密歇根州佩托斯基。在蓋洛德鎮長大，當時只有3000名居民。我父親是這個鎮上的壹名法官，他們父子同名，克勞德·艾爾伍德·香農。我媽媽是鎮上中學的校長，她叫梅布爾·沃爾夫·香農。他在受過良好教育的環境中長大，但他的父母對他的科學影響似乎沒有他祖父那麽大。香農的祖父是壹位農民和發明家，他發明了洗衣機和許多農業機械，這對香農產生了直接影響。此外，香農家族與大發明家托馬斯·阿爾瓦·愛迪生(1847-1931)有著遠親關系。
香農大部分時間都在貝爾實驗室和麻省理工學院度過。成名後，香農和瑪麗·伊麗莎白·摩爾於1949年3月27日結婚。他們在貝爾實驗室相遇，瑪麗當時是壹名數據分析師。他們有四個孩子:三個兒子羅伯特、詹姆斯、安德魯·摩爾和壹個女兒瑪格麗塔·凱瑟琳。後來身邊多了兩個可愛的孫女。
2006年2月24日，香農在馬薩諸塞州的梅德福德去世，享年85歲。貝爾實驗室和麻省理工學院發布的訃告將香農尊為信息論和數字通信時代的創始人。
1936香農在密歇根大學獲得數學和電氣工程學士學位，後進入麻省理工學院讀研究生。
香農於1938獲得麻省理工學院電氣工程碩士學位，碩士論文題目為“繼電器和開關電路的符號分析”。當時他已經註意到電話交換電路和布爾代數的相似性，即布爾代數的“真”和“假”與電路系統的“開”和“關”是對應的，都用1和0來表示。於是他用布爾代數分析優化了開關電路，為數字電路奠定了理論基礎？9.妳難過嗎？哈沃德·加德納教授說，“這可能是本世紀最重要、最著名的碩士論文。”
1940年，香農獲得了麻省理工學院的數學博士學位，但他的博士論文是關於人類遺傳學的，題目是《理論遺傳學的代數》。這說明香農的科學興趣非常廣泛，後來他在不同學科發表了很多有影響力的文章。
在攻讀學位期間，他還花了部分時間跟隨Vannevar Bush教授學習微分分析器。這個分析器是早期的力學模擬計算機，用來獲得常微分方程的數值解。1941年，香農發表了《微分分析器的數學理論》，他寫道:“大多數結果都是以證明定理的形式給出的。最重要的是處理壹些條件，壹些條件可以生成壹個或多個變量的函數，壹些條件可以使常微分方程得到解。也給出了壹些註意事項，給出了函數的近似值(不能產生精確值)、調整率的近似值和自動控制率的方法。”
1941中，香農在&進入；t貝爾電話公司，並在貝爾實驗室工作到1972，24歲到55歲，31年。1956成為麻省理工學院客座教授，1958成為正教授，1978退休。
人們描述香農的壹生。他總是白天閉門工作，晚上騎著獨輪車去貝爾實驗室。他的同事D. Slepian寫道:“我們都是帶著午飯來上班，晚飯後在黑板上玩數學遊戲，但克勞德很少過來。”他總是閉門造車。但是，如果妳想找他，他會很耐心的幫妳。他能壹下子抓住問題的實質。他真是個天才。在我認識的人裏，我只對他用這個詞。"
Shannon與John Riordan合作，發表了壹篇關於1942中串並聯網絡雙終端數的論文。本文推廣了Percy a . MacMahon(1854-1929)1892在《電工》上發表的論文理論。1948，信息論創立。
在漫長的歲月裏，他思考了很多問題。除了在普林斯頓高等研究院工作了壹年，我大部分時間都在麻省理工學院和貝爾實驗室。需要說明的是，二戰期間，香農博士也是著名的密碼破解者(這讓我想起了比他大四歲的圖靈博士)。他在貝爾實驗室的破譯小組主要跟蹤德國的飛機和火箭，尤其是德國火箭閃電戰英國的時候。香農在65438-0949年發表了另壹篇重要論文《秘密系統的通信理論》。正是基於這種工作實踐，其意義在於將秘密通信從藝術轉向科學。
香農在65438年至0948年的貝爾系統技術期刊上發表了壹篇通信的數學理論。論文署名為香農和Vivo。沃倫·韋弗(1894-1978)當時是洛克菲勒基金會自然科學部主任，他為文章寫了序言。後來，香農仍然從事技術工作，而韋弗則研究信息論的哲學問題。順便說壹下，論文剛發表的時候用的是不定冠詞A，收錄到散文集的時候就改成定冠詞The了。
熵的概念
香農理論的重要特征是熵的概念，證明了熵等同於信息量的不確定性。熵曾經是玻爾茲曼在熱力學第二定律中引入的，我們可以理解為分子運動的無序度。信息熵也有類似的含義。比如在中文信息處理中，漢字的靜態平均信息熵比較大，中文是9.65比特，英文是4.03比特。這說明漢語的復雜程度高於英語，反映出漢語含義豐富，文字簡潔，但也很難處理。信息熵大意味著不確定性大。因此，我們應該深入研究，尋求中文信息處理的深層突破。我們不能盲目地認為漢字是世界上最美的文字，從而得出漢字最容易處理的錯誤結論。
眾所周知，質量、能量和信息是三個非常重要的量。
人們早就知道，用秤或天平測量的物質質量大？h，服用(4)劑。⒐πππππππππππππππππππππππππππππππππππππ9世紀中葉，隨著熱的力學等效的闡明和能量守恒定律的建立，逐漸清晰起來。能量壹詞是它們的統稱，能量的計量是通過新的單位如卡、焦耳的出現來解決的。
然而，關於文字、數字、圖像和聲音的知識已經有幾千年的歷史了。但它們的通用名稱是什麽，如何統壹度量，直到19年底都沒有正確提出，更不用說如何求解了。20世紀初，隨著電報、電話、照片、電視、無線電和雷達的發展，如何測量信號中的信息的問題被模糊地提上了日程。
哈特利(R.V. H. Harley)在1928中考慮了從D個不同的符號中取出N個符號組成壹個單詞的問題。如果每個符號概率相同，完全隨機選取，可以得到DN個不同的單詞。從這些詞中取壹個具體的，對應壹個信息量I，哈特利建議信息量用N log D的量來表示，即I = I=N log D，這裏的log表示以10為底的對數。後來，1949控制論的創始人韋納也研究了測量信息的問題，並將其引向熱力學第二定律。
但香農是給出信息傳遞基本數學模型的核心人物。香農從65438年到0948年長達幾十頁的論文《交流的數學理論》成為信息論正式誕生的裏程碑。在他的通信數學模型中，他明確提出了信息測量的問題。他將哈特利公式推廣到不同概率pi的情況，得到了著名的計算信息熵h的公式:
H=∑-pi對數pi
如果計算中的對數log以2為基數，那麽計算出的信息熵就是以比特為單位的。今天計算機和通信中廣泛使用的字節、KB、MB、GB等詞，都是由比特演化而來的。“比特”的出現，標誌著人類知道如何衡量信息量。香農的信息論對定義信息量的概念做出了決定性的貢獻。
事實上，Shannon最初的動機是為了消除手機中的噪音。他給出了通訊速度的上限。這個結論最早用於電話，後來用於光纖，現在用於無線通信。今天，我們可以清楚地撥打海外電話或衛星電話，這與通信信道質量的提高密切相關。
克勞德·香農在公眾中並不特別知名，但他是為數不多的使我們的世界能夠立即交流的科學家和思想家之壹。他是美國科學院、美國工程院、皇家學會和美國哲學學會的成員。他獲得了許多榮譽和獎勵。比如1949莫裏斯獎，1955百齡壇獎，1962凱利獎，1966國家科學獎章，IEEE榮譽勛章，1978賈誇德獎，1983弗裏茨獎，650。他獲得的榮譽學位不勝枚舉，在此不再贅述。
今天，我們懷念香農，應該熟悉他的兩大貢獻:壹是信息論和信息熵的概念；另壹個是符號邏輯和開關理論。我們應該學習他那種好奇、重視實踐、追求完美、永不滿足的科學精神，這是他成功的重要經驗。