北京化工大学 2006——2007 学年第一学期
《信息论与编码》期末考试试卷
班级: 姓名: 学号: 分数:
题号
得分
一
二
三
四
五
六
总分
一、(20 分)(每题2 分)
1. 填空题
(1) 有失真 信源 编 码的中 心任务是在允许失真范围内把编码后的信息率压缩
到 。
(2) 信息率失真函数 R(D)是满足保真度准则时所必须具有的最小信息率,在进行信
源压缩之类的处理时,R(D)就成为一个界限,不能让实际的信息率 。
(3) 离散无记忆信源输出 M 个不同的消息符号,当且仅当各个符号出现概率相等时,
信源熵达到最大值,且为 H(X)= 。
(4) 疑义度表示信道在传输过程中的 ;散布度表示信道因噪
声干扰所呈现的无序性程度。
(5) 对(x7+1)作因式分解,得 x7+1=(x+1)(x3+ x2+1)(x3+ x+1)。要想得到(7,4)循环
码,其生成多项式 g(x)= 。
2. 判断题(正确的在括号内画 ,错误的在括号内画· )
( ) (1) 要使信息率小于 R(D),平均失真一定会超过失真限度 D。
( ) (2) 对于 m 阶马尔可夫信源来说,在某一时刻信源符号出现的概率,只与前
面已出现的 m 个符号有关。
( ) (3) 信道编、译码是寻求实现通信系统与信道统计特性相匹配的编、译码。
( ) (4) 信息率失真函数研究的是信道编码问题。
( ) (5) 增大信道容量 C 或信息传输速率 R,可以提高通信的可靠性。
PDF 文件使用 "pdfFactory Pro" 试用版本创建 www.fineprint.com.cn
第 1 页
三、(15 分)设随机变量 X={x1, x2}和 Y={y1, y2}的联合概率空间为:
XY
P
ø
=œ
ß
求:(1) 熵 H(X),H(Y)
Ø
Œ
º
XY
Ø
Œ
º
1
yx
2/1
1
2
1
yx
4/1
2
yx
8/1
1
2
yx
8/1
2
ø
œ
ß
(2) 条件熵 H(X |Y ),H(Y |X )
(3) 互信息量 I(X ;Y)
PDF 文件使用 "pdfFactory Pro" 试用版本创建 www.fineprint.com.cn
第 3 页
四、(15 分)已知某信道的转移概率矩阵如下,求该信道的信道容量。
[
|XYP
]
=
6/16/13/13/1
Ø
Œ
3/16/13/16/1
º
ø
œ
ß
PDF 文件使用 "pdfFactory Pro" 试用版本创建 www.fineprint.com.cn
第 4 页
五、(15 分)对离散无记忆信源:
X
P
X
Ø
Œ
º
ø
=œ
ß
Ø
Œ
º
x
2
1
x
x
x
ø
œ
1.02.03.04.0
ß
4
3
求: (1) 对信源进行二进制霍夫曼编码,并求编码效率。
(2) 对信源进行二进制费诺编码,并求编码效率。
PDF 文件使用 "pdfFactory Pro" 试用版本创建 www.fineprint.com.cn
第 5 页
六、(20)设( 7,4 )循环码的生成多项式 g(x)= x3+ x+1,求
(1) 该循环码的生成矩阵 G;
(2) 该循环码的一致校验矩阵 H;
(3) 对于信息组 m = (1011),编出的码字是什么?
(4) 验证 R =(1001110)是否为码字?
PDF 文件使用 "pdfFactory Pro" 试用版本创建 www.fineprint.com.cn
第 6 页