文档介绍：Chapter5 有噪信道编码
5-1 译码准则与译码错误概率
有噪声信道编码的主要目的是提高传输可靠性,增加抗干扰能力,因此也称为纠错编码或抗干扰编码。
信源编码之后的码字序列抗干扰能力很脆弱,在信道噪声的影响下容易产生差错,为了提高通信系统的有效性和可靠性,要在信源编码器和信道之间加上一个信道编码器,
5-1-1 译码准则的含义
一个例子
影响通信系统可靠性的一个重要问题是译码方式,可以通过一个例子看一下;
有一个BSC信道,如图所示。
对于这样一个信道,如果采用自然的译码准则,即收0判0,收1判1;这时可以明显看到,当信源先验概率的等概时p(0)=p(1)=1/2;这时收到Y判X的后验概率等于信道转移概率,系统正确的译码概率为1/4,错误译码概率为3/4。但如果采用另一种译码准则,收0判1,收1判0;则系统正确的译码概率为3/4,错误译码概率为1/4,通信的可靠性提高了。
译码准则
这时定义一个收到yj后判定为xi的单值函数,即: F(yj)=xi (i=1,2,…n; j=1,2,…m);这个函数称为译码函数。它构成一个译码函数组,这些函数的值组成了译码准则。
对于有n个输入,m个输出的信道来说,可以有nm个不同的译码准则。例如上面例子中有4中译码准则分别为:
A:{F(0)=0;F(1)=0} B:{F(0)=0;F(1)=1}
C:{F(0)=1;F(1)=0} D:{F(0)=1;F(1)=1}
5-1-2译码错误概率
译码准则确定之后,当接收端收到一个yj后,则按译码准则译成F(yj)=xi,这时如果发送的为xi则为正确译码,如果发送的不是xi则为错误译码。所以接收到yj后正确译码的概率就是接收端收到yj后,推测发送端发出xi的后验概率:
Prj=P{F(yj)=P(xi/yj)}
而错误译码的概率为收到yj后,推测发出除了xi之外其它符号的概率:Pej=P{e/yj}=1-P{F(yj)=xi/yj}
其中e表示除了xi之外的所有其它信源符号的集合。然后对所有的yj取平均,则平均正确译码概率为:
同样可以得到平均错误译码概率为:
5-1-3最大后验概率准则
由平均错误译码概率的表达式可以看出,错误译码概率与信道输出端随机变量Y的概率分布p(yj)有关,也与译码准则有关。当信道信道转移概率p(yj/xi)确定后,而且信源统计特性p(xi)确定之后,信道输出端的p(yj)也就确定了。因为:p(xi,yj)=p(xi)p(yj/xi); 而p(yj)可以由p(xi,yj)的(i=1,2, n)求和得到。
因此,在这种情况下,平均错误译码概率只与译码准则有关了。通过选择译码准则可以使平均译码概率达到最小值。
当式中的每一项的P{F(yj)=xi/yj}达到最大值时,平均错误译码概率就可以为最小值。
设信源X的信源空间为:
收到每一个yj(j=1,2,…m)后,推测发送为xi(i=1,2,…n)的后验概率共有n个,为:
p(x1/yj),p(x2/yj),……p(xn/yj)。
这其中必有一个为最大的,设其为:p(x*/yj),即有:
p(x*/yj)≥p(xi/yj) (对一切的i)
这表明:收到符号yj后就译为输入符号x*,即译码函数选为:
F(yj)=a* (j==1,2,…m)
这种译码准则称为“最大后验概率准则”。
这个表达式平均错误译码概率的最小值,是把每一个yj对应的后验概率排除后再连续求和。
从表达式中可以看到,这个最小值与信源先验概率和信道转移概率有关,特别是信道转移概率,如果除了p(yj/x*)外,其它的项多很小,错误译码概率会减小。