急求 信源编码与信道编码的区别
我觉得相在于是把原有的信息表示方式更换为新的表达，就是的特点。
之处在于信源编码目标是以尽可能少的符号表达尽可能多的信息，这样能最大程度利用信源发出的每一个信号；而信道编码目标是使传输的信道尽可能可靠。
所以会在信源编码的基础上增加冗余和校验信息。
比如，实际需要传输4个bit信息，经过信源编码可能只需要1个bit，经过信道编码可能需要2个，4个甚至8个bit。
不要觉得这两个工作是互相对立的。
总结来说，信源编码是为了符合信源发射信号的要求，信道编码是为了符合信道传输信号的要求。
信息论与编码公式总结
第一章绪论第二章信源与信息熵离散信源的信息量自信息量条件自信息量联合自信息量单符号离散信源熵熵的性质1.非负性2.对称性3.确定性4.扩展性5.连续性二元联合信源的共熵与条件熵二元联合信源的共熵二元联合信源的条件熵独立熵、联合熵与条件熵的关系独立熵、联合熵与条件熵的物理意义离散无记忆信源N次扩展信源离散信道的平均交互信息量离散信道三种描述方法1.概率空间描述2.转移矩阵描述3.图示法描述离散信道的互信息量互信息量性质1.互易性-对称性2.3.互信息量可正可负4.任何两个事件之间的互信息不可能大于其中任何一个事件的自信息量5.离散信道的平均互信息量平均互信息量与联合熵、独立熵的关系一般关系X和Y相互独立时X和Y一一对应时数据处理定理信息不增性连续信源的熵连续信源均匀分布：高斯分布：指数分布：连续信源的最大熵定理输出峰值受限时的最大熵（瞬时功率受限\\\/幅度受限）：当概率密度分布为均匀分布时，信源具有最大熵输出平均功率受限时的最大熵：当其概率密度函数为高斯分布时，具有最大熵均值受限时的最大熵：其输出信号幅度呈指数分布时连续信源X具有最大熵值信源的剩余度\\\/多余度\\\/冗余度离散信源的剩余度\\\/多余度\\\/冗余度：连续信源的剩余度\\\/多余度\\\/：第三章信道容量离散无噪声信道的熵速率和信道容量熵速率：信道容量：几种离散无噪声信道举例：1、具有一一对
数字通信系统的一般模型中各组成部分的主要功能是什么
我总结了一下，应该类似于以下情形：A向B发了个图片图片（模拟信号）→信源编码器（A\\\/D转换为数字信号）→调制器（D\\\/A转换为模拟信号）→长距离传输介质→解调器（A\\\/D转换为数字信号）→信源解码器（D\\\/A转化为模拟信号，输出成图片）编码器对信源进行了预处理，压缩以及简化，形成基带信号，方便调制器调制后进行远距离传输。
应该可以这样粗浅地理解。
纯手打，望采纳
信息论毕业前考试：试总结论述信道的数学模型、离散信道传输能力的计算方法、等会的多多帮助谢谢。
。
我也在等。
。
我是小胖= =
曼顿码编码方法有哪些
算术编码在图像数据压缩标准(如JPEG，JBIG)中扮演了重要的角色。
在算术编码中，消息用0到1之间的实数进行编码，算术编码用到两个基本的参数：符号的概率和它的编码间隔。
信源符号的概率决定压缩编码的效率，也决定编码过程中信源符号的间隔，而这些间隔包含在0到1之间。
编码过程中的间隔决定了符号压缩后的输出。
算术编码器的编 码过程可用下面的例子加以解释。
[例4.2] 假设信源符号为{00, 01, 10, 11}，这些符号的概率分别为{ 0.1, 0.4, 0.2, 0.3 }，根据这些概率可把间隔[0, 1)分成4个子间隔：[0, 0.1), [0.1, 0.5), [0.5, 0.7), [0.7, 1)，其中表示半开放间隔，即包含不包含。
上面的信息可综合在表4-04中 。
表4-04 信源符号，概率和初始编码间隔 符号 00 01 10 11 概率 0.1 0.4 0.2 0.3 初始编码间隔 初始编码间隔 [0, 0.1) [0.1, 0.5) [0.5, 0.7) [0.7, 1) 如果二进制消息序列的输入为：10 00 11 00 10 11 01。
编码时首先输入的符号是10， 找到它的编码范围是[0.5, 0.7)。
由于消息中第二个符号00的编码范围是[0, 0.1)，因 此它的间隔就取[0.5, 0.7)的第一个十分之一作为新间隔[0.5, 0.52)。
依此类推，编码 第3个符号11时取新间隔为[0.514, 0.52)，编码第4个符号00时，取新间隔为[0.514, 0 .5146)，… 。
消息的编码输出可以是最后一个间隔中的任意数。
整个编码过程如图4-0 3所示。
图4-03 算术编码过程举例 这个例子的编码和译码的全过程分别表示在表4-05和表4-06中。
根据上面所举的例子， 可把计算过程总结如下。
考虑一个有M个符号的字符表集，假设概率，而。
输入符号用表示，第个子间隔的范围用 表示。
其中，和，表示间隔左边界的值, 表示间隔右边界的值，表示间隔长度。
编码步 骤如下： 步骤1：首先在1和0之间给每个符号分配一个初始子间隔，子间隔的长度等于它的概率， 初始子间隔的范围用[，)表示。
令，和。
步骤2：L和R的二进制表达式分别表示为： 和 其中和等于“1”或者“0”。
比较和：①如果，不发送任何数据，转到步骤3;②如果，就发送二进制符号。
比较和：①如果，不发送任何数据，转到步骤3;②如果，就发送二进制符号。
… 这种比较一直进行到两个符号不相同为止，然后进入步骤3， 步骤3：加1，读下一个符号。
假设第个输入符号为，按照以前的步骤把这个间隔分成如 下所示的子间隔： 令，和，然后转到步骤2。
表4-05 编码过程 步骤 输入 符号 编码间隔 编码判决 1 10 [0.5, 0.7) 符号的间隔范围[0.5, 0.7) 2 00 [0.5, 0.52) [0.5, 0.7)间隔的第一个1\\\/10 3 11 11 [0.514, 0.52) [0.5, 0.52)间隔的最后一个1\\\/10 4 00 [0.514, 0.5146) [0.514, 0.52)间隔的第一个1\\\/10 5 10 [0.5143, 0.51442) [0.514, 0.5146)间隔的第五个1\\\/10开始，二个1\\\/10 6 11 [0.514384, 0.51442) [0.5143, 0.51442)间隔的最后3个1\\\/10 7 01 [0.5143836, 0.514402) [0.514384, 0.51442)间隔的4个1\\\/10，从第1个1\\\/10开始 8 从[0.5143876, 0.514402中选择一个数作为输出：0.5143876 表4-06 译码过程 步骤 步骤 间隔 译码符号 译码判决 1 [0.5, 0.7) 10 0.51439在间隔 [0.5, 0.7) 2 [0.5, 0.52) 00 0.51439在间隔 [0.5, 0.7)的第1个1\\\/10 3 [0.514, 0.52) 11 0.51439在间隔[0.5, 0.52)的第7个1\\\/10 4 [0.514, 0.5146) 00 0.51439在间隔[0.514, 0.52)的第1个1\\\/10 5 [0.5143, 0.51442) 10 10 0.51439在间隔[0.514, 0.5146)的第5个1\\\/10 6 [0.514384, 0.51442) 11 0.51439在间隔[0.5143, 0.51442)的第7个1\\\/10 7 [0.51439, 0.5143948) 01 0.51439在间隔[0.51439, 0.5143948)的第1个1\\\/10 7 译码的消息：10 00 11 00 10 11 01 [例3] 假设有4个符号的信源，它门的概率如表4-07所示： 表4-07 符号概率 信源符号ai 概率 初始编码间隔 [0, 0.5) [0.5, 0.75) [0.75, 0.875) [0.875, 1) 输入序列为。
它的编码过程如图4-04所示，现说明如下。
输入第1个符号是，可知，定义初始间隔[，)=[0.5, 0.75)，由此可知，左右边界的二 进制数分别表示为：L=0.5=0.1(B)，R=0.7=0.11… (B) 。
按照步骤2，，发送1。
因 ，因此转到步骤3。
输入第2个字符，，它的子间隔， )=[0.5, 0.625)，由此可得=0.125。
左右边界的二进 制数分别表示为：L=0.5=0.100 … (B)，R=0.101… (B)。
按照步骤2，，发送0，而和 不相同，因此在发送0之后就转到步骤3。
输入第3个字符，，, 它的子间隔[, )=[0.59375, 0.609375)，由此可得=0.015625。
左 右边界的二进制数分别表示为：=0.59375=0.10011 (B)，=0.609375=0.100111 (B)。
按照步骤2，，，，但和不相同，因此在发送011之后转到步骤3。
… 发送的符号是：10011…。
被编码的最后的符号是结束符号。
图4-04 算术编码概念 就这个例子而言，算术编码器接受的第1位是“1”，它的间隔范围就限制在[0.5, 1)， 但在这个范围里有3种可能的码符, 和，因此第1位没有包含足够的译码信息。
在接受第 2位之后就变成“10”，它落在[0.5, 0.75)的间隔里，由于这两位表示的符号都指向开 始的间隔，因此就可断定第一个符号是。
在接受每位信息之后的译码情况如下表4-08所 示。
表4-08 译码过程表 接受的数字 间隔 译码输出 1 [0.5, 1) [0.5, 1) - 0 [0.5, 0.75) 0 [0.5, 0.609375) 1 [0.5625, 0.609375) - 1 [0.59375, 0.609375) … … … 在上面的例子中，我们假定编码器和译码器都知道消息的长度，因此译码器的译码过程 不会无限制地运行下去。
实际上在译码器中需要添加一个专门的终止符，当译码器看到 终止符时就停止译码。
在算术编码中需要注意的几个问题： 由于实际的计算机的精度不可能无限长，运算中出现溢出是一个明显的问题，但多数机 器都有16位、32位或者64位的精度，因此这个问题可使用比例缩放方法解决。
算术编码器对整个消息只产生一个码字，这个码字是在间隔[0, 1)中的一个实数，因此 译码器在接受到表示这个实数的所有位之前不能进行译码。
算术编码也是一种对错误很敏感的编码方法，如果有一位发生错误就会导致整个消息译 错。
算术编码可以是静态的或者自适应的。
在静态算术编码中，信源符号的概率是固定的。
在自适应算术编码中，信源符号的概率根据编码时符号出现的频繁程度动态地进行修改 ，在编码期间估算信源符号概率的过程叫做建模。
需要开发动态算术编码的原因是因为 事先知道精确的信源概率是很难的，而且是不切实际的。
当压缩消息时，我们不能期待 一个算术编码器获得最大的效率，所能做的最有效的方法是在编码过程中估算概率。
因 此动态建模就成为确定编码器压缩效率的关键。
