通信原理平均信息量某信息源的符号集由A、B、C、D和E组成,设每一符号独立出现且出现的概率相同.假定该信息源输出的消息符号有两类,即输出单个符号和输出连续两个符号,且输出输出单个

Question

通信原理 平均信息量
某信息源的符号集由A、B、C、D和E组成,设每一符号独立出现且出现的概率相同.假定该信息源输出的消息符号有两类,即输出单个符号和输出连续两个符号,且输出输出单个符号和输出连续两个符号的概率均为1/2（log2--5=2.3219）
(1)试求该信息源输出符号的平均信息量.
(2)若符号周期；则符号速率为多少?平均信息速率为多少?

Answer 1

单个字符的概率P1=1/5*1/2=1/10 ;连续两个字符的概率P2 = 1/20*1/2=1/40
同概率平均信息量：H(p)=∑P(x)log1/p(x)
所以,H(p)=5*1/10*log10 + 20*1/40*log40
=1.66+2.16
=3.82 bit/字符
符号周期为T
符号速率R1=1/T
平均信息速率为R2=R1*H(p)=3.82/T
符号周期自带