問題描述:
香農的身世和他所做出的貢獻
解析:
這裏的資料是我看下來比較全的
香農
?克勞德·香農(Claude Elwood Shannon，1916-2001)1916年4月30日誕生於美國密西根州的Petoskey。在Gaylord小鎮長大，當時鎮裏只有三千居民。父親是該鎮的法官，他們父子的姓名完全相同，都是Claude Elwood Shannon。母親是鎮裏的中學校長，姓名是Mabel Wolf Shannon。他生長在壹個有良好教育的環境，不過父母給他的科學影響好像還不如祖父的影響大。香農的祖父是壹位農場主兼發明家，發明過洗衣機和許多農業機械，這對香農的影響比較直接。此外，香農的家庭與大發明家愛迪生(Thomas Alva Edison，1847-1931)還有遠親關系。
香農的大部分時間是在貝爾實驗室和MIT(麻省理工學院)度過的。在“功成名就”後，香農與瑪麗(Mary Elizabeth Moore)1949年3月27日結婚，他們是在貝爾實驗室相識的，瑪麗當時是數據分析員。他們***有四個孩子：三個兒子Robert、James、Andrew Moore和壹個女兒Margarita Catherine。後來身邊還有兩個可愛的孫女。?2001年2月24日，香農在馬薩諸塞州Medford辭世，享年85歲。貝爾實驗室和MIT發表的訃告都尊崇香農為信息論及數字通信時代的奠基之父。
?1936年香農在密西根大學獲得數學與電氣工程學士學位，然後進入MIT念研究生。
?1938年香農在MIT獲得電氣工程碩士學位，碩士論文題目是《A Symbolic Analysis of Relay and Switching Circuits》(繼電器與開關電路的符號分析)。當時他已經註意到電話交換電路與布爾代數之間的類似性，即把布爾代數的“真”與“假”和電路系統的“開”與“關”對應起來，並用1和0表示。於是他用布爾代數分析並優化開關電路，這就奠定了數字電路的理論基?9?鶇笱У餒さ悄?Howard Gardner)教授說，“這可能是本世紀最重要、最著名的壹篇碩士論文。”
?1940年香農在MIT獲得數學博士學位，而他的博士論文卻是關於人類遺傳學的，題目是《An Algebra for Theoretical Geics》(理論遺傳學的代數學)。這說明香農的科學興趣十分廣泛，後來他在不同的學科方面發表過許多有影響的文章。
?在讀學位的同時，他還用部分時間跟溫尼法·布什(Vannevar Bush)教授進行微分分析器的研究。這種分析器是早期的機械模擬計算機，用於獲得常微分方程的數值解。1941年香農發表了《Mathematical theory of the differential *** yzer》(微分分析器的數學理論)，他寫道：“大多數結果通過證明的定理形式給出。最重要的是處理了壹些條件，有些條件可以生成壹個或多個變量的函數，有些條件可使常微分方程得到解。還給出了壹些註意事項，給出求函數的近似值(不能產生精確值)、求調整率的近似值以及自動控制速率的方法。”
?1941年香農以數學研究員的身份進入新澤西州的AT&T貝爾電話公司，並在貝爾實驗室工作到1972年，從24歲到55歲，整整31年。1956年他當了MIT的訪問教授，1958年成為正式教授，1978年退休。
?人們描述香農的生活，白天他總是關起門來工作，晚上則騎著他的獨輪車來到貝爾實驗室。他的同事D. Slepian寫到：“我們大家都帶著午飯來上班，飯後在黑板上玩玩數學遊戲，但克勞德很少過來。他總是關起門來工作。但是，如果妳要找他，他會非常耐心地幫助妳。他能立刻抓住問題的本質。他真是壹位天才，在我認識的人中，我只對他壹人使用這個詞。”
?香農與John Riordan壹起工作，1942年發表了壹篇關於串並聯網絡的雙終端數的論文。這篇論文擴展了麥克馬洪(Percy A. MacMahon，1854-1929)1892年在Electrician上發表的論文理論。1948年則創立了信息論(information theory)。
?在漫長的歲月，他思考過許多問題。除在普林斯頓高等研究院工作過壹年外，主要都在MIT和Bell Lab度過。需要說明的是，在二次世界大戰時，香農博士也是壹位著名的密碼破譯者(這使筆者想到比他大4歲的圖靈博士)。他在Bell Lab的破譯團隊主要是追蹤德國飛機和火箭，尤其是在德國火箭對英國進行閃電戰時起了很大作用。1949年香農發表了另外壹篇重要論文《Communication Theory of Secrecy Systems》(保密系統的通信理論)，正是基於這種工作實踐，它的意義是使保密通信由藝術變成科學。
?1948年香農在Bell System Technical Journal上發表了《A Mathematical Theory of Communication 》。論文由香農和威沃***同署名。前輩威沃(Warren Weaver，1894-1978)當時是洛克菲勒基金會自然科學部的主任，他為文章寫了序言。後來，香農仍然從事技術工作，而威沃則研究信息論的哲學問題。順便提壹句，該論文剛發表時，使用的是不定冠詞A，收入論文集時改為定冠詞The。
?熵的概念
?香農理論的重要特征是熵(entropy)的概念，他證明熵與信息內容的不確定程度有等價關系。熵曾經是波爾茲曼在熱力學第二定律引入的概念，我們可以把它理解為分子運動的混亂度。信息熵也有類似意義，例如在中文信息處理時，漢字的靜態平均信息熵比較大，中文是9.65比特，英文是4.03比特。這表明中文的復雜程度高於英文，反映了中文詞義豐富、行文簡練，但處理難度也大。信息熵大，意味著不確定性也大。因此我們應該深入研究，以尋求中文信息處理的深層突破。不能盲目認為漢字是世界上最優美的文字，從而引申出漢字最容易處理的錯誤結論。
?眾所周知，質量、能量和信息量是三個非常重要的量。
?人們很早就知道用秤或者天平計量物質的質量大?H歡?頤槍賾諶取⑷劑稀⒐τ肽艿募屏課侍猓?僦?9世紀中葉，隨著熱功當量的明確和能量守恒定律的建立才逐漸清楚。能量壹詞就是它們的總稱，而能量的計量則通過“卡、焦耳”等新單位的出現而得到解決。
?然而，關於文字、數字、圖畫、聲音的知識已有幾千年歷史了。但是它們的總稱是什麽，它們如何統壹地計量，直到19世紀末還沒有被正確地提出來，更談不上如何去解決了。20世紀初期，隨著電報、電話、照片、電視、無線電、雷達等的發展，如何計量信號中信息量的問題被隱約地提上日程。
?1928年哈特利(R.V. H. Harley)考慮到從D個彼此不同的符號中取出N個符號並且組成壹個“詞”的問題。如果各個符號出現的概率相同，而且是完全隨機選取的，就可以得到DN個不同的詞。從這些詞裏取了特定的壹個就對應壹個信息量I。哈特利建議用N log D這個量表示信息量，即I=N log D 。這裏的log表示以10為底的對數。後來，1949年控制論的創始人維納也研究了度量信息的問題，還把它引向熱力學第二定律。
?但是就信息傳輸給出基本數學模型的核心人物還是香農。1948年香農長達數十頁的論文“通信的數學理論”成了信息論正式誕生的裏程碑。在他的通信數學模型中，清楚地提出信息的度量問題，他把哈特利的公式擴大到概率pi不同的情況，得到了著名的計算信息熵H的公式：
?H=∑-pi log pi
?如果計算中的對數log是以2為底的，那麽計算出來的信息熵就以比特(bit)為單位。今天在電腦和通信中廣泛使用的字節(Byte)、KB、MB、GB等詞都是從比特演化而來。“比特”的出現標誌著人類知道了如何計量信息量。香農的信息論為明確什麽是信息量概念作出決定性的貢獻。
?事實上，香農最初的動機是把電話中的噪音除掉，他給出通信速率的上限，這個結論首先用在電話上，後來用到光纖，現在又用在無線通信上。我們今天能夠清晰地打越洋電話或衛星電話，都與通信信道質量的改善密切相關。
?克勞德·香農在公眾中並不特別知名，但他是使我們的世界能進行立即通信的少數科學家和思想家之壹。他是美國科學院院士、美國工程院院士、英國皇家學會會員、美國哲學學會會員。他獲得過許多榮譽和獎勵。例如1949年Morris獎、1955年Ballantine獎、1962年Kelly獎、1966年的國家科學獎章、IEEE的榮譽獎章、1978年Jaquard獎、1983年Fritz獎、1985年基礎科學京都獎。他接受的榮譽學位不勝枚舉，不再贅述。
?今天，我們懷念香農，要熟悉他的兩大貢獻：壹是信息理論、信息熵的概念；另壹是符號邏輯和開關理論。我們更應該學習他好奇心強、重視實踐、追求完美、永不滿足的科學精神，這是他獲得成功的重要經驗。