信息论基础调研报告 一 . 信息论的发源： 信息论理论基础的成立，一般来说开始于 1948 年美国数学家香农在《贝尔系统电话杂志》发布题为 “通信的数学理论” 的长篇论文。这篇论文以概率论为工具， 深刻阐释了通信工程的一系列基本理论问题， 给出了计算信源信息量和信道容量的方法和一般公式，得出了一组表征信息传达重要关系的编码定理，进而创办了信息论。 信息论自出生到此刻可是 60 多年，在人类科学史上是相当短暂的。但它的发展对学术界以及人类社会的影响是相当宽泛和深刻的。 信息作为一种资源， 怎样开发、利用、共享，是人们广泛关怀的问题。 信息论是研究信息的传输、储存和办理的学科，亦称“信息论”为“通信的数学理论”。它主要研究在通信系统设计中怎样实现信息传输的有效性和靠谱性。 所以，信息论与通信技术、统计数学信号办理等亲密有关。 二 . 信息技术的发展： 现代信息论实质上是从上世纪二十年月奈奎斯特和哈特莱的研究开始的，他们最早开始研究了通信系统传输信息的能力，并且试图胸怀系统的信道容量。 香农于 1940 年在普林斯顿高级研究所时期开始思虑信息论与有效通信系统的问题。经过 8 年的努力， 1948 年，来自贝尔研究所的 Claude Shannon（克劳德·香农）的《通信的数学理论》论文公诸于世，此后宣布了崭新的一门对于信息发面的学科──信息论 的出生。 1949 年，香农又在该杂志上发布了另一着名论文《噪声下的通信》 。在这两篇论文中，香农说了然通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达 式，并解决了信道容量、 信源统计特征、 信源编码、信道编码等一系列基本技术问题。 两篇论文成为了信息论的奠定性着作。这两篇论文一同论述了现代信息论的基础。并且香农开始创建性的定义了“信息” 。 信息论自从二十世纪四十年月中叶到二十一世纪早期，现已成为一门独立的理论科 学，他给出全部传输、储存、 办理信息系统的一般理论， 并指出，实现有效、靠谱地传输和储存信息的门路是走数字化的道路。 这是通信技术领域数字化革命的数学或理论基础。 1946 年的计算机和 1947 年晶体管的出生和相应技术的发展，是这一革命的物理或物质基础。信息论是在长久的通信工程实践和理论研究的基础上发展起来的。 20 世纪 50 年月，包含香农在内的一些科学家做了大批的工作，发布了很多重要文 20世纪60年 章，将香农的科学论断进一步推行，同时信道编码理论有了较大的发展。 代，信道编码技术已经成为信息论的又一重要分支。 它把代数方法引入到纠错码的研究，使分组码技术达到了顶峰，找到了可纠正多个错误的码，并提出了可实现的译码方法。其次是卷积码和概率译码有了重要打破，提出了序列译码和维特比译码方法。 1961 年，香农的重要论文“双路通信信道” 开辟了多用户信息理论的研究。到 70 年月，因为数字计算机的宽泛应用，通信系统的能力也有很大提升，怎样更有效地利用和 办理信息，成为日趋急迫的问题。人们愈来愈认识到信息的重要性，认识到信息能够作为与资料和能源相同的资源而加以充足利用和共享。信息的看法和方法已宽泛浸透到各个科学领域，它急迫要求打破申农信息论的狭小范围，以便使它能成为人类各样活动中所遇到的信息问题的基础理论，进而推进其余很多新兴学科进一步发展。 三 . 信息论的有关技术的应用： 1. 信息论在生物学中的应用： 生命体自己是一个复杂的信息传达、 储存、办理、加工和控制的系统。 理论上说，信息论应当和生物学有着亲密关系。近几十年来，因为生物学的发展特别快速，人们对生 命现象的研究， 已经从整体深入到细胞、 亚细胞、分子水平易量子水平上， 以揭露生命现象的实质。特别是遗传信息方面的研究获得了重要进展和收效，此后确定了信息理论在 生物学研究方面的重要作用和地位。特别是 20 世纪 90 年月以来，陪伴着分子构造测定技术的打破和各样基因组测序计划的睁开，生物学数据大批出现，怎样剖析这些数据，从中获取生物构造、功能的有关信息成为困扰生物学家的一个难题。生物信息学就是在 此背景下发展起来的综合运用生物学、 数学、统计学、物理学、化学、信息科学以及计算机科学等诸多学科的理论和方法的崭新和交错学科。 当前，国际上公认的生物信息学的研究内容大概包含以下几个方面。 (1) 生物信息的采集、储藏、管理和供给。 (2) 基因组序列信息的提取和剖析。 (3) 功能基因组有关信息剖析。 (4) 生物大分子构造模拟和药物设计。 (5) 生物信息剖析的技术与方法研究。 (6) 应用与发展研究。 2．信息论在医学中的应用： 医学是研究人的生命活动的实质， 研究疾病发生发展的规律， 研究诊疗和防治疾病，恢复和保护人的身体健康的科学。信息论在医学上的应用，大大促使了医学的现代化。 从信息论的看法看， 有机体是不停接收与输出信息， 以保持正常的生命活动。 有机体中，信息熵标记着系统组织构造复杂的有序状态，因为新陈代谢的作用，有机体内部有 序构造不停受到损坏，这时熵增添，反之机体不停从外界接收信息——负熵，在机体内合成高度的有序构造，使熵降低。所以运用信息理论来剖析生命系统，能够把生命系统看作是接收信息和传达信息的调理控制系统。 3．信息论在管理科学中的应用 : 在现代化管理中，信息论已成为与系统论、控制论等相并列的现代科学的主要方法 论之一。信息价值、信息量、 信息反应、信息时效性和真切性，信息办理和传达，以及信 息论与信息科学是现代化管理的运动命脉。实质上，现代化管理与信息已融为一体，并 形成一种特别形态的信息运动形式，即管理系统信息流。在整个管理世界里，管理信息 依照不一样的分类方法，能够分为各样不一样的类型，而在这众多的种类中，总的可分为两 大形式：管理自然信息和管理社会信息。 管理自然信息指的是： 管理系统以时间、 效益形式体现的自己形态、构造、运动过程与主体 ( 主假如管理者 ) 的相同以时间、效益形式体现的自己形态、构造、运动过程互相作用而在人脑中留下的与该管理系统同态的响应。 管理社会信息指的是： 全部经过管理者利用语言、 文字、符号、图像等加工过的管理自然信息。管理方面的知识、情报、指令、通告、法律等等全都属于管理社会信息。 对于任何管理者来说，他将随时都会同时面对着这两种信息，并深刻地影响着自己的管理活动。因而可知，信息论在公司管理中拥有重要的应用价值和应用远景。 4．信息论在经济学中的应用 信息论在经济学领域中有着宽泛的浸透，一方面，能够用经济学的看法来研究信息的一般问题，特别是信息的价值问题，另一方面，又能够用信息科学的看法和方法来从头认识和商讨经济活动的规律。 当前，在经济学领域活跃着一门新的学科： 信息经济学 (Economics of Information) 。 本文来源：https://www.wddqw.com/doc/34cd2942834d2b160b4e767f5acfa1c7ab008252.html