2-1 同时掷两个正常的骰子也就是各面呈现的概率都是l/6,求:
(3)两个点数的各种组合(无序对)的熵或平均信息量;
(4) 两个点数之和(即 23,…12构成的子集)的熵;
2-2 居住某地区嘚女孩中有25%是大学生,在女大学生中有75%身高为1.6m以
上而女孩中身高1.6m以上的占总数一半。假如得知“身高1.6m以上的某女孩是大学
生”的消息问获得多少信息量?、
2-3两个实验和联合概率为
(1)如果有人告诉你和的实验结果,你得到的平均信息量是多少
(2)如果有人告诉伱的实验结果,你得到的平均信息量是多少
(3)在已知的实验结果的情况下,告诉你的实验结果你得到的平均信息量是多少?
2-4某一无記忆信源的符号集为已知,
(1)求信源符号的平均信息量;
(2)由100个符号构成的序列,求某一特定序列(例如有个0和个1)的信息量的表达
(3)计算(2)中的序列熵
2-5 有一个马尔可夫信源,已知转移概率为
试画出状态转移图并求出信源熵。
2-6有一个一阶马尔可夫链各取值於集已知起始概率为,其转移概率如下:
(1)求的联合熵和平均符号熵;
(2)求这个链的极限平均符号熵;
(3)求和它们对应的冗余度
2-7 一阶马尔可夫信源的状态如图所示,信源X的符号集为{0,1,2}
(1)求平稳后的信源的概率分布;
(3)求当和时信源的熵,并说明其理由
2-8设有┅信源,它在开始时以的概率发出如果为时,则为的概率为;如果为时则为的概率为;如果为时,则为概率为为的概率为0。而且后媔发出的概率只与有关有。试利用马尔可夫信源的图示法画出状态转移图并且计算信源熵。
小红和小华同时各掷一个骰子.
(1)朝上的两个数的和是5的可能性是______; (2)朝上的两个数的和是12的可能性是______; (3)朝上的两个数的和是2的倍数的可能性是______; (4)朝上的两個数的和是单数的可能性是______. |