克劳德香农的贡献
《通讯的数学原理》香农在普林斯顿高级研究所（The Institute for Advanced Study at Princeton）期间，开始思考信息论与有效通信系统的问题。
从1948年6月到10月，香农在《贝尔系统技术杂志》（Bell System Technical Journal）上连载发表了影像深远的论文《通讯的数学原理》。
1949年，香农又在该杂志上发表了另一著名论文《噪声下的通信》。
在这两篇论文中，香农解决了过去许多悬而未决的问题：阐明了通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达式，并解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题。
两篇论文成为了信息论的基础性理论著作。
那时，他才不过刚刚三十出头。
香农的成就轰动了世界，激起了人们对信息论的巨大热情，它向各门学科冲击，研究规模像滚雪球一样越来越大。
不仅在电子学的其他领域，如计算机、自动控制等方面大显身手，而且遍及物理学、化学、生物学、心理学、医学、经济学、人类学、语音学、统计学、管理学……等学科。
它已远远地突破了香衣本人所研究和意料的范畴，即从香农的所谓“狭义盾息论”发展到了“广义信息论”。
香农一鸣惊人，成了这门新兴学科的奠基人。
20世纪80年代以来，当人们在议论未来的时候，人们的注意力又异口同声的集中到信息领域。
按照国际一种流行的说法，未来将是一个高度信息化的社会。
信息工业将发展成头号工业，社会上大多数的人将是在从事后息的生产、加工和流通。
这时，人们才能更正确地估价香农工作的全部含义。
信息论这个曾经只在专家们中间流传的学说，将来到更广大的人群之中。
香农这个名字也飞出了专家的书斋和实验室，为更多的人所熟悉和了解。
香农被尊称为是“信息论之父”。
人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《通信的数学原理》作为现代信息论研究的开端。
这一文章部分基于哈里·奈奎斯特和拉尔夫·哈特利先前克劳德·香农 这一定义可以用来推算传递经二进制编码后的原信息所需的信道带宽。
熵的概念量度的是消息中所含的信息量，而去除了消息中固有结构所决定的部分，比如，语言结构的冗余性以及语言中字母、词的使用频度等统计特性。
信息论中熵的概念与物理学中的熵有着紧密的联系。
玻耳兹曼与吉布斯在统计物理学中对熵做了很多的工作。
信息论中的熵也正是受之启发。
谁知道克劳德・香农（Claude Shannon）于1937年发表《对继电器和开关电路中的符号分析》内容
求大
19116月15日，美国华尔街金融投弗林特（C.Flent）投资瑞斯的制表机公司，成立了全新的CTR公司公司创立之初并没有涉足任何电子领域，反而生产诸如碎纸机或者土豆削皮机之类的产品。
1912年：美国青年发明家德福雷斯特（L.De Forest）在帕洛阿托小镇首次发现了电子管的放大作用，为电子工业奠定了基础，而今日的帕洛阿托小镇也已成为硅谷的中心地带。
1913年：美国麻省理工学院教授万布什（V.Bush）领导制造了模拟计算机“微分分析仪”。
机器采用一系列电机驱动，利用齿轮转动的角度来模拟计算结果。
1924年：硅谷之父特曼担任斯坦福大学教授，对创建HP、成立斯坦福工业园区起到决定性作用 2月，由霍列瑞斯创办的制表机公司几经演变，最终更名为国际商用机器公司，即我们今天看到的IBM。
1935年：IBM制造了IBM601穿孔卡片式计算机，该计算机能够在一秒钟内计算出乘法运算。
1936年：阿兰.图灵发表论文《论可计算数及其在判定问题中的应用》，首次阐明了现代电脑原理，从理论上证明了现代通用计算机存在的可能性，图灵把人在计算时所做的工作分解成简单的动作，与人的计算类似，机器需要：（1）存储器，用于贮存计算结果；（2）一种语言，表示运算和数字；(3)扫描；（4）计算意向，即在计算过程中下一步打算做什么；（5）执行下一步计算。
具体到一步计算，则分成：（1）改变数字可符号；（2）扫描区改变，如往左进位和往右添位等；（3）改变计算意向等。
整个计算过程采用了二进位制，这就是后来人们所称的“图灵机”。
20多岁的德国工程师楚泽（K.Zuse）研制出了机械可编程计算机Z1，并采用了二进制形式，其理论基础即来源于布尔代数 1937年：11月，美国AT&T贝尔实验室研究人员斯蒂比兹（G. Stibitz）制造了电磁式数字计算机“Model-K”。
1938年：克劳德艾尔伍德香农（Claude Elwood Shannon）发表了著名论文《继电器和开关电路的符号分析》，首次用布尔代数对开关电路进行了相关的分析，并证明了可以通过继电器电路来实现布尔代数的逻辑运算，同时明确地给出了实现加，减，乘，除等运算的电子电路的设计方法。
这篇论文成为开关电路理论的开端。
1939年：元旦，美国斯坦福大学研究生比尔休利特（B.Hewllet）和戴维帕卡德（D.Packard）正式签署企业合伙协议，创办了Hewllet-Packard（HP)公司，即国内通称的惠普公司。
9月，贝尔实验室研制出M－1型计算机。
10月，约翰.阿塔纳索夫（John Vincent Atanasoff(1903-1995)）制造了后来举世闻名的ABC计算机的第一台样机，并提出了计算机的三条原则，（1）以二进制的逻辑基础来实现数字运算，以保证精度； （2）利用电子技术来实现控制，逻辑运算和算术运算，以保证计算速度； （3）采用把计算功能和二进制数更新存贮的功能相分离的结构。
这就是著名的计算机三原则。
1940年：9月，贝尔实验室在美国达特默思大学演示M—1型机。
他们用电报线把安置在校园内的M—1型机和相连，当场把一个数学问题打印出来并传输到纽约，M—1型机在达特默思大学的成功表演，首次实现了人类对计算机进行的远距离控制的梦想。
控制论之父维纳提出了计算机五原则，（1）不是模拟式，而是数字式；（2）由电子元件构成，尽量减少机械部件；（3）采用二进制，而不是十进制；（4）内部存放计算表；（5）在计算机内部存贮数据。
1941年：楚泽完成了Z3计算机的研制工作，这是第一台可编程的电子计算机。
可处理7位指数、14位小数。
使用了大量的真空管。
每秒种能作3到4次加法运算，一次乘法需要3到5秒。
1942年：时任美国依阿华州立大学数学物理教授的阿塔纳索夫（John V. Atanasoff）与研究生贝瑞（Clifford Berry）组装了著名的ABC（Atanasoff-Berry Computer）计算机，共使用了300多个电子管，这也是世界上第一台具有现代计算机雏形的计算机。
但是由于美国政府正式参加第二次世界大战，致使该计算机并没有真正投入运行。
1943年：贝尔实验室把U型继电器装入计算机设备中，制成了M—2型机，这是最早的编程计算机之一。
此后的两年中，贝尔实验室相继研制成功了M－3和M－4型计算机，但都与M－2型类似，只是存储器容量更大了一些。
10月，绰号为“巨人”的用来破译德军密码的计算机在英国布雷契莱庄园制造成功，此后又制造多台，为第二次世界大战的胜利立下了汗马功劳。
1944年：8月7日，由IBM出资，美国人霍德华艾肯（H.Aiken）负责研制的马克1号计算机在哈佛大学正式运行，它装备了15万个元件和长达800公里的电线， 每分钟能够进行200次以上运算。
女数学家格雷斯霍波（G.Hopper）为它编制了计算程序，并声明该计算机可以进行微分方程的求解。
马克1号计算机的问世不但实现了巴贝奇的夙愿，而且也代表着自帕斯卡计算机问世以来机械计算机和电动计算机的最高水平。
1946年：2月14日，美国宾西法尼亚大学摩尔学院教授莫契利（J. Mauchiy）和埃克特（J.Eckert）共同研制成功了ENIAC (Electronic Numerical Integrator And Computer):计算机。
这台计算机总共安装了17468只电子管，7200个二极管，70000多电阻器，10000多 只电容器和6000只继电器，电路的焊接点多达50万个,机器被安装在一排2.75米高的金属柜里，占地面积为170平方米左右，总重量达 到30吨，其运算速度达到每秒钟5000次加法，可以在3\\\/1000秒时间内做完两个10位数乘法。
克劳德香农的贡献
香农理论的重要特征是熵(entropy)的概念，他证明熵与信息内容的不确定程度有等价关系。
熵曾经是波尔兹曼在热力学第二定律引入的概念，我们可以把它理解为分子运动的混乱度。
信息熵也有类似意义，例如在中文信息处理时，汉字的静态平均信息熵比较大，中文是9.65比特，英文是4.03比特。
这表明中文的复杂程度高于英文，反映了中文词义丰富、行文简练，但处理难度也大。
信息熵大，意味着不确定性也大。
因此我们应该深入研究，以寻求中文信息处理的深层突破。
不能盲目认为汉字是世界上最优美的文字，从而引申出汉字最容易处理的错误结论。
香农在进行信息的定量计算的时候，明确地把信息量定义为随机不定性程度的减少。
这就表明了他对信息的理解：信息是用来减少随机不定性的东西。
或香农逆定义：信息是确定性的增加 。
虽然仙农的信息概念比以往的认识有了巨大的进步，但仍存在局限性，这一概念同样没有包含信息的内容和价值，只考虑了随机型的不定性，没有从根本上回答信息是什么的问题。
事实上，香农最初的动机是把电话中的噪音除掉，他给出通信速率的上限，这个结论首先用在电话上，后来用到光纤，现在又用在无线通信上。
我们今天能够清晰地打越洋电话或卫星电话，都与通信信道质量的改善密切相关。
这个实在是太多了，你直接看链接吧（怕怕啊，链接会被审核好久啊）
热力学中Cv什么意思
1.化学及热力学中所熵，是一种测量在动力学方面不能做功的总数。
熵亦被用于计算一个系统中的现象和复杂程度。
2.熵在生态学中是表示生物多样性的指标。
熵是生命科学的借助概念，借助的是热力学第二定律来解释生命现象。
3.在信息技术中,它就是指一个事情的不确定的程度.在信息技术中的计算式是I=lg(p),p个事情的概率. 熵的概念最先在1864年首先由克劳修斯提出，并应用在热力学中。
后来在1948年由克劳德·艾尔伍德·香农第一次引入到信息论中来。
