信息论第三章答案.doc

32-3

31-3

32设二元对称信道的传的矩阵 TOC \o "1-5" \h \z )

、若 P (0) =-,P(l)=-，求 H(X).H(X/Y),H(Y/X)和 I(X;Y);

4

、求该信道的信道容量及其达到信道容量时的输入概率分布。

3 3 1 1

解：(1)、H(X)=-p(Xj) = —(— xlog~ + ~ ~) = 0-81 bit/symbol

H(Y/X)=》艺/心)"(兀 / 兀)log p(yj / 兀) i J

2f 2 3 1 1 1 1 1 1 2, 2X

=-(-x — log — + — x — log - + — x - log - + — x — log —)

3 3 4 3 3 4 3 3 4 3 3

=0.92bit/symbol

P(X) = ) + P(x2yx) = p(xx/x() + p(x2)p(yl /x2)

2 1 1 n _Q

二一X- + -X— 二0. 58

3 4 3

同理可得：p( y2 )=0.42

H (Y)=(0?42 X logO. 42+0. 58 X logO. 58)=0.980bit/symbol

得:H(X/Y)=H(X)-H(Y)+H(Y/X)=0.81 -0.98+0.92=0.75bit/symbol

I(X;Y)=H(X)-H(X/Y)=0.81 -0.75=0.06bit/symbol

112 2

(2)|l|题:C=maxI(X;Y)=logm- Hmi =log2-(- log - + — log — )=0.082bit/symbol 因为信道容量达到最大值即X等概率出现即：p(x,)=l

3.6、有一个二元对称信道，其信道矩阵为［°"8 设该信源以1500二元

0.02 .098