期终练习。
一、居住在某地区的女孩中有25%是大学生，在女大学生中有75%的身高在1.6米以上，而女孩中在1.6米以上的占总数的一半。
假如我们得知“身高在1.6米以上的某女孩是大学生”这一消息，问获得的多少信息量？
解：设事件a：女孩是大学生； b：女孩身高在1.6米以上。
根据题意，可知：p（a）=0.25 p（b）=0.50 p（b|a）=0.75
而“身高在1.6米以上的某女孩是大学生” 这一消息表明在b事件发生的条件下，a事件的发生，故其概率为p（a|b）
根据贝叶斯定律，可得：
p（a|b）=p（ab）/p（b）=p（a）* p（b|a）/ p（b）=0.25*0.75/0.5=0.375
故得知“身高在1.6米以上的某女孩是大学生”这一消息获得的多少信息量为：
i（a|b） =logp（a|b）=log（8/3）=3-log3≈1.42(比特/符号)
二、一阶马尔可夫信源的状态图如下所示，信源x的符号集为。
求信源平稳分布后的概率分布p(0),p(1),p(2)
求此信源的熵。
解：⑴该信源达到平稳后，有以下关系成立：
可得。三、（10%）设信源，通过一干扰信道（如下图），接收符号集为。求 ⑴和 ⑵和。
解：⑴ 0.881(比特/符号)
0.722(比特/符号)
0.690(比特/符号。
0.881+0.690-0.722=0.849(比特/符号。
四、（10%）求传递矩阵为的信道的信道容量，其中。
解：这是一个准对称信道，可把信道矩阵分为：，
故。五、（16%）信源。
1）利用霍夫曼码编成二元变长的惟一可译码，并求其。
2）利用费诺码编成二元变长的惟一可译码，并求其。
解：（1）编码过程如下图。
得到的唯一可译码为
0.4×2+0.2×2+0.1×3×2+0.05×4×4=2.6(码元/信源符号。
2）编码过程如下图。
得到的唯一可译码为
0.4×1+0.2×3+0.1×3+0.1×4+0.05×4×2+0.05×5×2=2.6(码元/信源符号)
六、（10%）设二元码为c=[11100，01001，10010，00111]
1）求此码的最小距离。
2）采用最小距离译码准则，试问接收序列11111，00001和11010应译成什么码字？
3）此码能纠正几位码元的错误？
解：（1）码距如下图。
故=32）11111译为11100或00111
00001译为01001
11010译为10010
3）根据，知此码能纠正一位码元的错误。
七、（12%）试证明二元序列的维矢量空间中的汉明距离满足：
对任意的，有。
证：对任意的，设。
其中， 显然，， 故。即。
八、（10%）设有一连续随机变量，其概率密度函数为。
又有。试求这随机变量的熵。
解：根据题意，有。
故a=1/2
取e为底数，奈特/自由度。
九、（12%）计算二元信源的函数。二元信源，失真矩阵，要求（1）计算，和。
2）求出达到的正向试验信道的传递概率。
解：（1）根据失真距阵，显然有=0
一般情况下，
此信道为二元对称信道，且采用汉明失真，故平均失真度等于平均错误概率，即。
此时，任选一信道使，得平均互信息。
根据费诺不等式，，当r=2时，有。
可以证明，能找到一个试验信道，使其平均失真度，而互信息达到这个下限值，故。
2）传递概率。
反向。正向。
过程略。一、（10%）某地区的人群中，10％是胖子，80％不胖不瘦，10％是瘦子。已知胖子得高血压的概率是15％，不胖不瘦者得高血压的概率是10％，瘦子得高血压的概率是5％，则“该地区的某一位高血压者是胖子”这句话包含了多少信息量。
解：设事件a：某人是胖子； b：某人是不胖不瘦 c：某人是瘦子。
d：某人是高血压者。
根据题意，可知：p（a）=0.1 p（b）=0.8 p（c）=0.1
p（d|a）=0.15 p（d|b）=0.1 p（d|c）=0.05
而“该地区的某一位高血压者是胖子” 这一消息表明在d事件发生的条件下，a事件的发生，故其概率为p（a|d）
根据贝叶斯定律，可得：
p（d）＝p（a）* p（d|a）＋p（b）* p（d|b）＋p（c）* p（d|c）＝0.1
p（a|d）＝p（ad）/p（d）＝p（d|a）*p（a）/ p（d）＝0.15*0.1/0.1＝0.15
故得知“该地区的某一位高血压者是胖子”这一消息获得的多少信息量为：
i（a|d） =logp（a|d）=log（0.15）≈2.73
二、（10%）设有一个马尔可夫信源，它的状态集为，符号集为，以及在某状态下发出符号集的概率是（i，k=1，2，3），如图所示。
1）求图中马尔可夫信源的状态极限概率并找出符号的极限概率。
2）计算信源处在某一状态下输出符号的条件熵h(x|s=j) (j=s1，s2，s3)
3）求出马尔可夫信源熵。
解：（1）该信源达到平稳后，有以下关系成立：可得。
3）（bit/符号）
三、（10%）二元对称信道的传递矩阵为。
1）若p(0)=3/4，p(1)=1/4，求h（x），h（x|y）和i（x；y）
2）求该信道的信道容量及其最大信道容量对应的最佳输入分布。
解：⑴ 0.811(比特/符号)
0.992(bit/符号)
0.811+0.971-0.992=0.79 (bit/符号。
=0.811-0.79=0.021(bit/符号。
2）此信道为二元对称信道，所以信道容量为。
c=1-h(p)=1-h(0.6)=1-0.971=0.029(bit/符号。
当输入等概分布时达到信道容量。
四、（10%）求信道的信道容量，其中。
解：这是一个准对称信道，可把信道矩阵分为：，
故 当输入等概分布时达到信道容量。
五、（16%）信源。
1）利用霍夫曼码编成二元变长的惟一可译码，并求其。
2）利用费诺码编成二元变长的惟一可译码，并求其。
解：（1）编码过程如下图。
得到的唯一可译码为，其失真矩阵为。
1）求dmax和dmin及信源的r(d)函数。
语文答题格式
这句话是 写这句话的意思 它在原文中起着 写作用 从而使得文章 答效果 一 某句话在文中的作用 1 文首 开篇点题 渲染气氛 散文 埋下伏笔 记叙类文章 设置悬念 但上海不会考 为下文作辅垫 总领下文 2 文中 承上启下 总领下文 总结上文 3 文末 点明中心 散文 深化主题 记叙类文章文章 照应开...
地理答题格式
一 生态与环保。1 常见生态环境问题的成因分析，答题思路如下 精心整理。自然原因 气候 地形 土壤 植被 全球气候。变暖等。根据区域分布区域的自然特。分析征和区域的开。归纳。2.常见根生据态区环域境生问态题治理措施的分析，答题思路如下 人为原因 主要 不。合理的人类活动，如过。度樵采 过度放牧等。4...
信格式格式参考
xx格式三 你好 我是技术学院的一名教师，得知能够推荐我的学生同学到贵公司工作，我感到非常快乐和无比欣慰。这样一个上进的年轻人应该去好的企事业单位开展，打拼自己的将来。因此，我很荣幸向贵公司强烈推荐这位优秀的学生。同学于20 就读与xx轻工业技术学院，该学生是一个活泼 开朗 心爱 热情 积极 上进 ...