设DMS的概率空间为 对其单个符号进行二进制编码,即码元集合为X={0,1}。 定义编码f为 f(u1)=w1=0,l1=1
设DMS的概率空间为
对其单个符号进行二进制编码,即码元集合为X={0,1}。
定义编码f为
f(u1)=w1=0,l1=1
f(u2)=w2=10,l2=2
f(u3)=w3=110,l3=3
f(u4)=w4=111,l4=3
试计算:(1)该信源的熵H(U);(2)由码字构成的新信源W的熵H(W);(3)由码元{0,1}构成的新信源X的熵H(X);(4)信息率R
设DMS的概率空间为
对其单个符号进行二进制编码,即码元集合为X={0,1}。
定义编码f为
f(u1)=w1=0,l1=1
f(u2)=w2=10,l2=2
f(u3)=w3=110,l3=3
f(u4)=w4=111,l4=3
试计算:(1)该信源的熵H(U);(2)由码字构成的新信源W的熵H(W);(3)由码元{0,1}构成的新信源X的熵H(X);(4)信息率R
第4题
设某贸易公司近期有三笔生意,其损益矩阵如下:
状态 | 1 | 2 | 3 | |
概率 | 0.4 | O.4 | 0.2 | |
方案 | 方案一 方案二 方案三 | 300 200 100 | 150 200 100 | -150 -100 80 |
要求:以期望值为标准进行决策。
第5题
信道是DMC的充要条件是输入输出序列之间的转移概率等于各个时刻单个符号对转移概率之连乘。( )
第6题
设一信源有2k种不同的符号,其中k为任意正整数。对此信源进行二进制Huffmail编码。假设此信源的分布概率满足pi/pj<2,i,j∈{1,2,…,2k}。试证明此Huffman编码中所有的码长都为k。
第8题
设无记忆二元信源,出现“0”的概率为0.98,出现“1”的概率为0.02,(即:信源熵为0.1414 bit/信源符号)信源输出N=100的二元序列,如果仅对“0”出现的频率为0.98±0.011和“1”出现的频率0.020.011的序列看成是典型序列,则:
第9题
设试验信道输入与输出符号集均为{1,2,3,4},输入概率分别为1/2,1/4,1/8,1/8,失真测度为d(i,j)=(i-j)2,1≤i,j≤4; 则Dmin=______,Dmax=______。
第10题
17.设信源发出二次扩展消息xiyi,其中第1个符号xi取值为A、B、C3种消息,第2个符号yj取值为D、E、F、G4种消息,概率p(xi)和p(yj|xi)如下表所示。
概率p(xi)和p(yj|xi) | ||||
p(xi) | A | B | C | |
1/2 | 1/3 | 1/6 | ||
p(yj|xi) | D | 1/4 | 3/10 | 1/6 |
E | 1/4 | 1/5 | 1/2 | |
F | 1/4 | 1/5 | 1/6 | |
G | 1/4 | 3/10 | 1/6 |
求二次扩展信源的联合熵H(XY)。