计算信源处在某一状态下输出符号的条件熵H(X|sj)(j=1,2,3)。
计算信源处在某一状态下输出符号的条件熵H(X|sj)(j=1,2,3)。
计算信源处在某一状态下输出符号的条件熵H(X|sj)(j=1,2,3)。
第1题
A.某一时刻信源符号的输出只与当时的信源状态有关,而与之前的状态无关
B.信源状态由当前输出符号和前一时刻信源状态唯一确定
C.一般马尔可夫信源的信息熵是其平均符号熵的极限值
D.m阶马尔可夫信源的极限熵等于m+1阶条件熵
第2题
A.某一时刻信源符号的输出只与当时的信源状态有关,而与之前的状态无关
B.信源状态由当前输出符号和前一时刻信源状态唯一确定
C.一般马尔可夫信源的信息熵是其平均符号熵的极限值
D.m阶马尔可夫信源的极限熵等于m+1阶条件熵
第3题
无失真信源编码器的熵为H(U)=2.35bit/符号,则编码后的熵H(W)=______bit/码字;若平均码长为2.6bit/信源符号,则H(X)=______,信息率R=______,ηc=______,冗余度γc=______。
第4题
设无记忆二元信源,出现“0”的概率为0.98,出现“1”的概率为0.02,(即:信源熵为0.1414 bit/信源符号)信源输出N=100的二元序列,如果仅对“0”出现的频率为0.98±0.011和“1”出现的频率0.020.011的序列看成是典型序列,则:
第5题
对两无记忆信源X1、X2输出的106个符号分别进行理想有损压缩编码,产生的平均失真相同,且均不超过各自R (D)函数的最大平均失真,两条编码器输出序列长度差的估计值为d。如果X1、X2是两个熵分别为0.5和0.8比特/符号的二元信源,采用汉明失真测度准则,那么两信源相比,信源______更难压缩,且d=______比特。
第6题
令S为一离散无记忆信源,其样本空间为A,熵为H。令R<H,设Ln为An的一个子集,并且满足条件:
|Ln|≤2Rn,n=1,2,…
求证:
第7题
17.设信源发出二次扩展消息xiyi,其中第1个符号xi取值为A、B、C3种消息,第2个符号yj取值为D、E、F、G4种消息,概率p(xi)和p(yj|xi)如下表所示。
概率p(xi)和p(yj|xi) | ||||
p(xi) | A | B | C | |
1/2 | 1/3 | 1/6 | ||
p(yj|xi) | D | 1/4 | 3/10 | 1/6 |
E | 1/4 | 1/5 | 1/2 | |
F | 1/4 | 1/5 | 1/6 | |
G | 1/4 | 3/10 | 1/6 |
求二次扩展信源的联合熵H(XY)。