第1页 / 共7页
第2页 / 共7页
第3页 / 共7页
第4页 / 共7页
第5页 / 共7页
第6页 / 共7页
第7页 / 共7页
信息论与编码-曹雪虹-第三章-课后习题答案.doc
3.1 设二元对称信道的传递矩阵为
2
3
1
3
1
3
2
3
(1) 若 P(0) = 3/4, P(1) = 1/4，求 H(X), H(X/Y), H(Y/X)和 I(X;Y)；
(2) 求该信道的信道容量及其达到信道容量时的输入概率分布；
解：
1)
XH
symbol
811.0
log
log
bit
)
(
)
/
1
3
4
4
log)
x
i
2
/
2
1
4
x
i
(
yp
j
/
)
3(
4
)
i
i
i
i
(
(
ypxp
(
)
xp
j
3(
2
1
2lg
4
3
3
3
918
.0
/
bit
symbol
3
4
j
XYH
(
/
)
1lg
3
1
4
1
3
1lg
3
1
4
2
3
2lg
3
)
log
10
2
(
yp
1
)
(
yxp
11
)
(
yxp
2
1
)
(
(
ypxp
1
)
1
/
x
1
)
(
(
ypxp
1
)
2
(
yxp
2
2
)
(
(
ypxp
)
1
/
x
1
)
2
(
(
ypxp
)
2
)
.0(
5833
log
.0
5833
.0
4167
log
.0
2
2
j
/
x
2
)
/
x
2
2
.0
5833
2
3
1
3
4
3
)
3
4
)
4167
1
3
.0
1
4
1
4
980
2
3
bit
.0
4167
/
symbol
)
)
/
(
YXH
)(
YH
(
/
)
YXH
)(
YH
)
/
(
XYH
811.0
)
/
(
XYH
811.0
749
.0
.0
.0
980
062
.0
bit
918
/
.0
symbol
749
bit
/
symbol
(
yp
2
)
)(
YH
(
)
;
YXI
/
YXH
)
;
(
YXI
(
2
)
(
yp
(
yxp
1
j
)
(
XH
(
XH
(
)
XH
)
2)
C
max (
;
I X Y
)
log
m H
2
mi
log 2 (
2
其最佳输入分布为
(
ip x
)
1
2
1
3
lg
1
3
2
3
2
lg )
3
log 10 0.082
bit symbol
/
2
3-2 某信源发送端有 2 个符号， ix ，i＝1，2； (
a ，每秒发出一个符号。接受端有 3
)ip x
1/ 2 1/ 2 0
1/ 2 1/ 4 1/ 4
。
种符号 iy ，j＝1，2，3，转移概率矩阵为
P
（1） 计算接受端的平均不确定度；
（2） 计算由于噪声产生的不确定度 (
（3） 计算信道容量。
1/ 2 1/ 2 0
1/ 2 1/ 4 1/ 4
联合概率 (
,
p x y
X
解：
P
Y
)
i
j
2y
1y
H Y X ；
)
|
1x
2x
/ 2a
(1
a
) / 2
/ 2a
(1
a
) / 4
3y
0
(1
a
) / 4
则 Y 的概率分布为
Y
1y
1/ 2
1+
a
4
a
4
log
a
4
4
log
1
a
1
a
1
a
log
1
2
1
a
1
log
1
a
4
a
a
1
2
log
log 2
16
1
a
log16
1
a
log
1
2
1
4
2
1
4
1
4
1
4
（1）
( )
H Y
1
2
1
2
3
2
log 2
log 2
log 2
2y
) / 4
(1
a
1
a
4
log
a
) / 4
3y
(1
4
1
a
log
1
1
a
a
)
bit
a
4
1
2
log
2
1
1
log
a
a
1 1
2
a
2
a
2
log
a
1 1
2
4
log
a
1 1
4
4
log
1
4
) max
(
)
p x
i
a
2
log 2
1
4
log
1
a
1
2
a
4
log
1
1
a
a
2
1
1
a
a
log
2
)
log 2
取 2 为底
( )
(
H Y
（2）
3
2
1
4
)
H Y X
(
|
log
2
3(1
a
2
log 2
3
log 2
a
a
2
取 2 为底
)
H Y X
(
|
bit
3
a
2
;
I X Y
1
ln
4
1
4
2
a
a
1 2
4 1
a
a
1
1
2(1
1
ln
4
2
)
a
a
ln 2
ln 2
ln 2
1
2
1
2
1
2
= 0
1
a
1
a
a
1
4
3
5
1 3
c
2 5
c
max (
(
p x
i
)
) max
(
)
p x
i
H Y H Y X
( )
(
|
(
a
2
ln 2
1
4
取 e 为底
ln
a
4
ln
1
1
a
a
)
2
1
1
a
a
1
a
1
a
1
a
ln
1
a
a
(
4
a
4 1
1
)
a
1
1
1
2
a
a
2
log 2
log
1
4
25
16
1
9
25
log
1 3
4 5
log
1
4
1
4
1
3
20
3
10
log 2
1
4
log
1
2
log
5
3
4 10
log 2
3
10
1
2
log 2
5
4
log
3.3 在有扰离散信道上传输符号 0 和 1，在传输过程中每 100 个符号发生一个错
误，已知 P(0)=P(1)=1/2，信源每秒内发出 1000 个符号，求此信道的信道容量。
解：
由题意可知该二元信道的转移概率矩阵为：
P
0.99 0.01
0.01 0.99
为一个 BSC 信道
所以由 BSC 信道的信道容量计算公式得到：
C
log
(
s H P
)
log 2
2
i
1
p
i
log
1
p
i
0.92
bit sign
/
C
t
1
t
C
1000
C
920
bit
/ sec
3.4 求图中信道的信道容量及其最佳的输入概率分布.并求当e=0 和 1/2 时的信道
容量 C 的大小。
Y
0
1
2
X
0
1
2
1
1－e
e
e
1－e
0
e
e1
－
,此信道为非奇异矩阵,又 r=s,可利用方程组求解
(
P b a b
j
)
|
j
i
(
P b a
i
|
j
)log (
P b a
i
|
j
)
(i=1,2,3)
解: 信道矩阵 P=
0
1
e10
0
e
3
å
j
=
1
=
3
å
j
=
1
ì
ïïïï -
(1
í
ïï
eb
ïïî
2
解得 1
b b
3
+
=
2
0b =
=
=
0
b
1
)log(1
(1
e
-
log
)
(1
eb e e
+
-
=
=
3
)
eb eb
3
+
2
(1
-
-
+
log
)
e e e
)
)log(1
e
e
-
(1
-
)log(1
e
-
)
e e e
log
+
ìïï
ïï
ïïï
ïï
í
ï
ïïï
ïïïïïî
所以
C=log
bå
2 j
j
=log[20+2×2(1-e)log(1-e)+
loge e]
=log[1+21-H(e)]=log[1+2
(
P b
1
)
=
1
2
-
b
C
=
-
C
2
=
1 2(1
+
(1
=
-
(1
-
(1
ee ]
)
) ee -
1
)
)
e e
-
e e
(1
)
e e
-
e e
(1
)
1 2(1
)
-
e e
+
-
e e
C
(
)
P b
2
=
-
(
P b
2
)
=
b
2
-
C
2
=
(
P b
3
)
=
2
b
3
1
1
1 2
-
+
H
( )
e
而
(
P b
)
j
3
= å
i
=
1
(
P a P b a
i
)
(
|
i
j
)
(j=1,2,3)
ì
ïïïï
得
í
ïï
ïïî
(
P b
2
(
P b
3
)
)
=
=
(
P b
1
(
P a
2
(
P a
2
)
=
)(1
)
e
+
)
(
P a
1
)
+
e
-
(
P a
3
所以 P(a1)=P(b1)=
1 2(1
+
)
e
)
e
(
P a
3
)(1
-
1
(1
) e e
e e-
-
)
(
P a
)
2
=
(
P a
3
)
=
(
P b
2
)
=
(
P b
3
)
=
(1
)
e e
-
e e
(1
)
1 2(1
)
e e-
e e
-
+
C=log3,
当e=0 时,此信道为一一对应信道,得
1
3
(
P a
当e=1/2 时,得 C=log2,
(
P a =
(
P a
3
(
P a
1
(
P a
=
=
=
)
)
)
)
,
2
1
1
2
)
2
=
(
P a
3
)
=
1
4
3.5 求下列二个信道的信道容量，并加以比较
（1）
p
p
p
p
其中 p+ p =1
2
2
（2）
p
p
p
p
2
0
0
2
解：
（1）此信道是准对称信道，信道矩阵中 Y 可划分成三个互不相交的子集 由于集列所组
成的矩阵
p
p
p
p
,
2
2
而这两个子矩阵满足对称性，因此可直接利用准对
称信道的信道容量公式进行计算。
2
kN
log
Mk
C1=logr-H(p1’ p2’ p3’)-
k
1
其中 r=2,N1=M1=1-2 N2= 2
C1=log2-H( p
M2=4 所以
,p-ε,2ε)-(1-2)log(1-2)-2log4
)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog4ε
)log( p
=log2+( p
=log2-2εlog2-(1-2ε)log(1-2ε)+( p
=(1-2ε)log2/(1-2ε)+( p
)log( p
)+(p-ε)log(p-ε)
)log( p
)+(p-)log(p-)
输入等概率分布时达到信道容量。
（2）此信道也是准对称信道，也可采用上述两种方法之一来进行计算。先采用准对称信
道的信道容量公式进行计算，此信道矩阵中 Y 可划分成两个互不相交的子集，由子
p
p
集 列 所 组 成 的 矩 阵 为
r=2,N1=M1=1-2 N2=M2=2，所以
C=logr-H( p -,p-ε,2ε,0)-
log
Mk
Nk
p
p
2
k
1
，
2
0
0
2
这 两 矩 阵 为 对 称 矩 阵 其 中
=log2+( p -)log( p -)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog2ε
=log2-(1-2ε)log(1-2ε)+( p -)log( p -)+(p-ε)log(p-ε)
=(1-2ε)log2/(1-2ε)+2εlog2+( p -)log( p -)+(p-ε)log(p-ε)
=C1+2εlog2
输入等概率分布（P（a1）=P（a2）=1/2）时达到此信道容量。比较此两信道容量，
可得 C2=C1+2εlog2
3-6 设有扰离散信道的传输情况分别如图 3－17 所示。求出该信道的信道容量。
解：
1
1
2
2
0
1
2
0 0
1
2
0 0
0
1
2
1
1
2
2
0 0
1
2
对称信道
log
C
m H Y a
(
|
)i
log 4
2log 2
1
2
1C bit/符号
取 2 为底
3-7
(1)
条件概率
，联合概率
，后验概率
p y0(
)
， p y1(
)
1
3
， p y2(
)
1
2
1
6
（2）
H(Y/X)=
（3）
当接收为 y2，发为 x1 时正确，如果发的是 x1 和 x3 为错误，各自的概率为：
P(x1/y2)= 1
5
，P(x3/y2)= 3
5
，P(x2/y2)= 1
5
其中错误概率为：
Pe=P(x1/y2)+P(x3/y2)= 1
5
3
5
0.8
（4）平均错误概率为
（5）仍为 0.733
（6）此信道不好
原因是信源等概率分布，从转移信道来看
正确发送的概率 x1-y1 的概率 0.5 有一半失真
x2-y2 的概率 0.3 有失真严重
x3-y3 的概率 0 完全失真
（7）
H(X/Y)=
1
6
Log 2( )
1
10
Log 5( )
1
15
Log
5
2
2
15
Log
5
2
1
10
Log 5( )
1
10
Log
5
3
1
30
Log 10(
)
3
10
Log
5
3
1.301
3. 8 设加性高斯白噪声信道中，信道带宽 3kHz，又设{(信号功率+噪声功率)/
噪声功率}=10dB。试计算该信道的最大信息传输速率 Ct。
解：
3. 9 在图片传输中，每帧约有 2.25106 个像素，为了能很好地重现图像，能
分 16 个亮度电平，并假设亮度电平等概分布。试计算每分钟传送一帧图片所需
信道的带宽（信噪功率比为 30dB）。
解：
log
H
NH
I
10
n
2
25.2
log
16
2
6
10
4
bit
94
/
symbol
6
10
bit
6
1.5
10
5
bit
/
s
P
X
P
N
C
t
I
t
WC
t
log
9
10
60
C
1
t
W
log
1
P
X
P
N
5
10
5.1
1(
1000
2
log
15049
H
z
)
3-10 一个平均功率受限制的连续信道，其通频带为 1MHZ，信道上存在白色高斯噪声。
（1）已知信道上的信号与噪声的平均功率比值为 10，求该信道的信道容量；
（2）信道上的信号与噪声的平均功率比值降至 5，要达到相同的信道容量，信道通频带应
为多大？
（3）若信道通频带减小为 0.5MHZ 时，要保持相同的信道容量，信道上的信号与噪声的平
均功率比值应等于多大？
解：（1）
log (1
2
6
SNR
)
C W
1 10 log (1 10)
2
3.159Mbps
log (1 5) 3.459
C W
2
3.159
M
log 6
1.338
MHZ
log (1
SNR
2
'
2
3.459
0.5
'
)
（2） 2
W
2
（3）
2
C W
3
3
SNR
120
2
log (1
SNR
欢迎下载！
Mbps
) 3.459
Mbps
相关推荐
2023年江西萍乡中考道德与法治真题及答案.doc
2012年重庆南川中考生物真题及答案.doc
2013年江西师范大学地理学综合及文艺理论基础考研真题.doc
2020年四川甘孜小升初语文真题及答案I卷.doc
2020年注册岩土工程师专业基础考试真题及答案.doc
2023-2024学年福建省厦门市九年级上学期数学月考试题及答案.doc
2021-2022学年辽宁省沈阳市大东区九年级上学期语文期末试题及答案.doc
2022-2023学年北京东城区初三第一学期物理期末试卷及答案.doc
2018上半年江西教师资格初中地理学科知识与教学能力真题及答案.doc
2012年河北国家公务员申论考试真题及答案-省级.doc
2020-2021学年江苏省扬州市江都区邵樊片九年级上学期数学第一次质量检测试题及答案.doc
2022下半年黑龙江教师资格证中学综合素质真题及答案.doc
