上海熵研究信息咨詢

信息論中的熵概念與物理學中的熱力學熵密切相關。玻爾茲曼和吉布斯在統計物理中對熱力學熵做了大量工作。信息論中的熵也是受其啟發。香農1948+00年6月發表在《貝爾系統技術雜誌》上的論文《通信的數學理論》通常被認為是現代信息論研究的開端。本文部分基於harry nyquist和Ralph Hartley以前的工作。在本文中，Shannon給出了信息熵的定義。

滿意，請采納