当前位置:首页 >> 其它课程 >>

信息论与编码 复习


信息论与编码 复习

2013年12月1日星期日

考试题型
简答题(30分,(6分/题)*5)
计算题(10分/题*7)

卷面成绩70%,平时成绩30分

第1章 概论
掌握通信系统的基本模型; 掌握信息论的研究内容。

第2章 信源熵

/>概念: 自信息量 平均互信息量 熵功率 信源冗余度 极限熵 平均符号熵:见例题

第2章 信源熵
定理 离散信源的最大熵定理 限平均功率的连续信源的最大熵定理 离散信源的无失真定长编码定理

第二章 ——续
计算: 某个事件发生后对外提供的自信息量 例如作业(2.1,2.4(1),2.15(2), 2.18(自信息量的综合应用)) 某个单符号信源的熵 例如作业:(2.5(3)(4),2.17 (1)) 序列信源的熵 例如作业:(2.15(3))

第二章 ——续
计算:
对于一阶和二阶马尔可夫信源: 会计算达到稳态时的状态概率分布(作业 2.17和p48 例2.2.4); 会求马尔可夫信源的熵

第二章 ——续
计算:
信源冗余度的计算(作业2.17(3))

第3章 信道容量
概念与定理:
掌握信道容量的概念和用途

掌握什么是信道编码定理
掌握连续信源的信道容量

第3章 信道容量
计算:
对称离散无记忆信道的容量的求解和应用 如课后作业3.6 C ? log m ? H
对称 2 mi

Rmax ? C ? 符号速率 I ? 消息的长度? H ( X ) t? R 准对称信道的容量的求解和应用。max
C准对称 ? log2 n ? H mi ? ? N k log2 M k
k ?1 r

第3章 信道容量
掌握离散无记忆信道的N次扩展信道的容量的 求解

CN次扩展 ? NC单符号无记忆信道

无噪信道的容量:见作业3.14
应用连续信道的信道容量公式进行解题
连续信道的容量

C连续

S ? B log 2 (1 ? ) N

第3章 信道容量
应用连续信道的信道容量公式进行解题
所需的信号功率

如作业3.19

注意:
C就是信号的传输速率 dB表示的信噪比在代入时要进行转换

第3章 信道容量
计算 带宽无穷大时连续信道的容量 带宽无穷大时,连续信号传输所需的信号功率 如作业3.20: CB?? ? S log2 e n0 注意: 噪声功率有时并不直接给出,而是给出 噪声功率谱密度N0和带宽B,则N= N0B

第4章 信息率失真函数
概念和定理:
掌握保真度准则下的信源编码定理(信息率失真 函数),哪些应用

信息率失真函数与信道容量的区别与联系

第4章 信息率失真函数
计算:
对于离散信源(如作业4.1(1)): Dmax,R(Dmax),及达到Dmax时对应的信道转移概率分 布 (2) R( Dmax ) ? 0 Dmax ? min D j
j

(1)

? d11 ? ?d ? 21 ? ? min? p ( x1 ),? p ( xn )? j ? ? ? ?d n1 ? ? D j*

(3)

?0 ? 1 0 ?? ? P (Y / X ) ? ? ? ? ? ? ? ? ?0 ? 1 0 ?? ? ?

d1n ? d 21 ? ? ? ? ? d nn ?

第j*列

第4章 信息率失真函数
计算:
对于离散信源(如作业4.1(2)): Dmin,R(Dmin),及达到Dmin时对应的信道转移概率分布
(1)

? ? p( xi ) ? min d ( xi , y j )
i j

Dmin ? min D

(2)

若Dmin ? 0, 则R( Dmin ) ? R(0) ? H ( X ) 否则,只要求大家会一 种等概信源,失真函数 为对称时的 R( D), 详见p120, (4.2.50)

(3)

P(Y/X):失真矩阵每行最小的元素对应的位置的转 移概率才为1,其它为0

第4章 信息率失真函数
计算:
对于离散信源(如作业4.1(3)): R(D)的计算、R(D)与D的关系图 只要求等概信源,对称失真的R(D),见P120 (4.2.50式) 关系图见P109 图4.1.1(注意区分离散和连续 信源),所取的点的纵坐标根据R(D)的计算式 求得

第4章 信息率失真函数
计算:
对于连续信源(例见ppt)
失真函数为均方失真时,给定的连续信源的Dmax和 R(D)的计算。 Dmax ? min ? p( x)d ( x, y )dx
y

1 Dmax R( D) ? ln 2 D

第5章 信源编码
掌握最佳变长信源编码定理。 计算: 给定一个离散信源: 能进行二进制香农编码 二进制费诺编码 二/三进制哈夫曼编码 等长编码 编码效率。

第6章 信道编码
概念和定理:
信道编码的作用; 信道编码器的性能指标及其与码长之间的关系

第6章 信道编码
计算:
对于线性分组码 能够进行伴随式译码:例:步骤见p178,课 件中有具体的例子

第6章 信道编码
计算:
对于循环码,已知(n,k)循环码 且已知m,求生成的一般循环码。 方法:c(x)=m(x)g(x) 例子见课件

第6章 信道编码
计算:
对于循环码,已知(n,k)循环码 会求系统循环码码字: 方法:例子见课件

c系统循环码 ? x m( x) ? p( x)
r

其中,p( x) ? x m( x) mod g ( x)
r

第6章 信道编码
能画出一般循环码的数字编码电路图:例p196 图6.3.4


相关文章:
信息论与编码复习
信息论与编码复习_理学_高等教育_教育专区。信息论与编码考试复习提纲"信息论与编码"复习 信息论与编码" 1.消息,信号,信息的含义,定义及区别. 信息是指各个事物...
信息论与编码复习重点整理(1页版)
信道编码概念,检、纠错定义:(1 信道编 码是提高通信可靠性为目的的编码(2 码序列中信息序列码元与多余码 元之间是相关的,根据相关性来检测(发现)和纠正传输中...
信息论与编码期末考试题----学生复习用
信息论与编码期末考试题---学生复习用_理学_高等教育_教育专区。信息论与编码基础题及答案(一)一、判断题. 判断题. 1. 当随机变量 X 和 Y 相互独立时,条件...
信息论与编码复习课
信息论与编码复习课_教育学_高等教育_教育专区。期末总复习信息论与编码复习题库 “信息论与编码复习 1.消息、信号、信息的含义、定义及区别。 信息是指各个...
信息论与编码复习资料重点 陈运 第二版
信息论与编码复习资料重点 陈运 第二版_理学_高等教育_教育专区。2.3 居住某地区的女孩子有 25%是大学生,在女大学生中有 75%是身高 160 厘米 以上的,而女孩...
信息论与编码复习
信息论与编码复习_工学_高等教育_教育专区。信息论与编码考试复习资料1、通信系统模型的组成,及各部分的功能。 答:信源,产生消息的源,消息可以是文字,语言,图像...
信息论与编码复习总结
信息论与编码复习总结_工学_高等教育_教育专区。信息论与编码复习总结,总结了各类知识点,以及考试常考点。信息论与编码复习总结题型:填空、解答、计算 1、 编码:...
信息论与编码复习
信息论与编码复习_教育学_高等教育_教育专区。信息论与编码复习一、考试题型: 1.判断题(15 分) ,2.填空题(10 分) 3.选择题(10 分) 4,。简答题(10 分...
信息论与编码复习要点
信息论与编码复习要点 暂无评价|0人阅读|0次下载|举报文档 信息论与编码的学习要点自信息自信息表示随机事件 xi 发生前的不确定性或发生后所包含的信息量,其定义...
信息论与编码复习资料(新)
信​息​论​与​编​码​复​习​资​料“信息论与编码复习 1.消息、信号、信息的含义、定义及区别。 信息是指各个事物运动的状态及状态变化...
更多相关标签: