首页 百科知识 信源分布概率怎么算

信源分布概率怎么算

时间:2023-10-10 百科知识 版权反馈
【摘要】:1952年,霍夫曼提出了一种编码方法,基本原理是对那些出现概率较大的信源符号编以较短的代码,而对那些出现概率较小的信源符号编以较长的代码。例2.1 设信源的可能输出为{a1,a2,a3,a4,a5,a6,a7},出现的概率分别为{0.01,0.20,0.18,0.10,0.19,0.15,0.17},试为该信源设计霍夫曼编码。计算平均码字长度为4×0.01+4×0.1+3×0.15+3×0.17+3×0.18+2×0.19+2×0.2=2.72bit。

2.2.3 霍夫曼编码

1952年,霍夫曼(Huffman)提出了一种编码方法,基本原理是对那些出现概率较大的信源符号编以较短的代码,而对那些出现概率较小的信源符号编以较长的代码。

实现霍夫曼编码的基本步骤如下。

(1)降序排列:把信源的各个输出符号按概率递降的顺序排列;

(2)合并概率:求其中概率最小的两个序列的概率之和,并把这个概率之和看做是一个符号序列的概率,再与其他序列依概率递降顺序排列(参与求概率之和的这两个序列不再出现在新的排列之中);继续这样的操作,直到剩下一个以1为概率的符号为止;

(3)赋予二进制0和1:对参与概率求和的两个符号序列分别赋予二进制数字0和1;

(4)读取编码结果:按照与编码过程相反的顺序读出各个符号序列所对应的二进制数字组,从而得到各个符号序列的编码结果。

例2.1 设信源的可能输出为{a1,a2,a3,a4,a5,a6,a7},出现的概率分别为{0.01,0.20,0.18,0.10,0.19,0.15,0.17},试为该信源设计霍夫曼编码。

解:按照实现霍夫曼编码的基本步骤对该信源进行编码

(1)降序排列

img15

(2)合并概率

img16

(3)赋予二进制0和1

img17

(4)读取编码结果

img18

计算平均码字长度为4×0.01+4×0.1+3×0.15+3×0.17+3×0.18+2×0.19+2×0.2=2.72bit。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈