信道編碼中的有關(guān)基本概念

信道編碼中的有關(guān)基本概念第一頁，共三十二頁，2022年，8月28日信道概述回顧：編碼是消息到信道波形或矢量的一種映射關(guān)系從數(shù)學(xué)上看，信道實(shí)際上也是從發(fā)空間X到收空間Y一個(gè)概率映射函數(shù)第二頁，共三十二頁，2022年，8月28日信道概述（續(xù)）收發(fā)集合可以以符號集的多重形式表示，相當(dāng)于多維空間。發(fā)空間的維數(shù)n與收空間的維數(shù)m可以不等例如當(dāng)發(fā)送波形x(t)通過一個(gè)濾波器h(t)時(shí)，輸出y(t)=x(t)*h(t)，如果x(t)只在[0,T]內(nèi)有值，而當(dāng)h(t)有一定的寬度t時(shí)，輸出的非零長度變成了T+t，也就是說當(dāng)接收采樣率等于或高于發(fā)送采樣率時(shí)，接收的維數(shù)增加了。而如果接收時(shí)采用了較低的采樣率，則有效維數(shù)就減低了。第三頁，共三十二頁，2022年，8月28日信道概述（續(xù)）根據(jù)收發(fā)空間中每一維所取的數(shù)域有限或無限可分為離散信道和連續(xù)信道這里借用了空間的名稱，但只用到了它的集合概念而沒有用到空間中的運(yùn)算，只有線性信道才可以直接用線性運(yùn)算構(gòu)成一個(gè)線性空間。第四頁，共三十二頁，2022年，8月28日信道特性的描述離散信道可用轉(zhuǎn)移概率律描述：P(y=b|x=a),a=(a1,a2,...an)X（發(fā)空間）,b=(b1,b2,...bm)Y（收空間）, 均為矢量（或n(m)重符號）第五頁，共三十二頁，2022年，8月28日信道特性的描述幅度連續(xù)信道可用轉(zhuǎn)移概率密度函數(shù)描述：p(y=b|x=a),a=(a1,a2,...an)X,b=(b1,b2,...bm)Y,均為矢量（或n(m)重符號）可用轉(zhuǎn)移概率密度函數(shù)描述：p(y=b|x=a),a=(a1,a2,...an)X,b=(b1,b2,...bm)Y,均為矢量（或n(m)重符號）第六頁，共三十二頁，2022年，8月28日時(shí)間及幅度連續(xù)信道根據(jù)奈奎斯特采樣定理，帶限的時(shí)域連續(xù)波形可以用采樣序列描述。當(dāng)發(fā)送信號波形的雙邊譜嚴(yán)格限制在帶寬為B的區(qū)間內(nèi)的時(shí)候，只需要以B為采樣率進(jìn)行采樣，即可得到包含該波形所有信息的時(shí)間離散序列。如果發(fā)送波形限制在時(shí)間T以內(nèi)，則表示該波形的序列點(diǎn)數(shù)為BT個(gè)，也就是說發(fā)送波形可以表示成一個(gè)BT維復(fù)矢量。當(dāng)信道是一個(gè)線性信道時(shí)，接收信號波形也必然限制在帶寬B以內(nèi)第七頁，共三十二頁，2022年，8月28日無記憶信道離散信道當(dāng)m=n，且P(y=b|x=a)=P(y1|x1)P(y2|x2)...P(yn|xn)時(shí)，各維的收符號只與相應(yīng)的發(fā)符號有關(guān)，稱為無記憶離散信道，簡寫為DMC連續(xù)信道當(dāng)m=n，且p(y=b|x=a)=p(y1|x1)p(y2|x2)...p(yn|xn)時(shí)，各維的收符號只與相應(yīng)的發(fā)符號有關(guān)（無符號間串?dāng)_），稱為無記憶連續(xù)信道非時(shí)變信道當(dāng)各因子具有相同的轉(zhuǎn)移概率形式時(shí)第八頁，共三十二頁，2022年，8月28日有記憶信道實(shí)際的連續(xù)信道通常會有符號間串?dāng)_（ISI），因此是有記憶的，但在一種較常見的特殊情況下，即在加性平穩(wěn)白高斯噪聲下的線性信道（y=Ax+n）時(shí)，可以等效于一個(gè)無記憶信道。第九頁，共三十二頁，2022年，8月28日有記憶信道的無記憶化對A作線性變換使正交化得：A=UTU，其中為A的特征值對矩陣。代入得y=UTUx+n，令x=UTx’，y’=UTy，n=UTn’，則有y’=x’+n’。于是對x’和y’而言就形成了一個(gè)無記憶信道。由于U為正交變換，不會產(chǎn)生信息量丟失，因此可以認(rèn)為X’-Y’信道與X-Y信道是等價(jià)的。于是我們就可以直接利用有關(guān)無記憶信道的編碼了。第十頁，共三十二頁，2022年，8月28日非時(shí)變無記憶離散信道舉例硬判決的MFSK信道x與y取自同一符號集合，當(dāng)y=x時(shí)我們說傳輸正確，當(dāng)yx時(shí)說發(fā)生了一次誤碼。Pe=1-P(y=x)稱為誤符號率，通常，當(dāng)ba時(shí)有P(y=b|x=a)Pe/(M-1)，即錯(cuò)成其它任一符號的概率相等。第十一頁，共三十二頁，2022年，8月28日成對差錯(cuò)序列概率發(fā)端編碼集合中有兩個(gè)碼字x1、x2，當(dāng)發(fā)碼字序列x1，錯(cuò)譯成碼字的x2概率，記為P(x1x2)。第十二頁，共三十二頁，2022年，8月28日二進(jìn)制對稱DMC的成對差錯(cuò)概率當(dāng)x1、x2的漢明距為d時(shí)，長度為n時(shí)d為偶數(shù)d為奇數(shù)可以近似認(rèn)為P(x1x2)PBd/2第十三頁，共三十二頁，2022年，8月28日非時(shí)變無記憶連續(xù)信道舉例AWGN信道中的BPSK相干解調(diào)y=x+n，其中n為零均值，方差為2的高斯隨機(jī)矢量。當(dāng)x1、x2的漢明距為d時(shí)有P(x1x2)==其中dEu為歐氏距離，A為BPSK幅度。當(dāng)BSC中采用BPSK硬判決時(shí)，有PB=，因此近似有：P(x1x2)

第十四頁，共三十二頁，2022年，8月28日距離在編碼中的作用從上面的例子中可以看出，BSC和AWGM信道中成對錯(cuò)誤概率只和編碼參數(shù)中的碼距（分別為漢明距離和歐氏距離）有關(guān)，且成單調(diào)關(guān)系。因此在這些信道中的碼設(shè)計(jì)就是要對碼距離進(jìn)行優(yōu)化。具體地說，不同信道的優(yōu)化目標(biāo)不同離散信道：漢明距離AWGN信道：歐氏距離衰落信道：漢明距離和歐氏距離要同時(shí)考慮。第十五頁，共三十二頁，2022年，8月28日誤碼曲線第十六頁，共三十二頁，2022年，8月28日誤碼曲線的橫坐標(biāo)對離散信道而言，誤碼曲線的橫坐標(biāo)一般為信道誤符號率的倒數(shù)，因此經(jīng)過信道編碼后的誤碼性能一般都能有所改善，即誤碼曲線向左下方移動(dòng)，但這是以效率降低為代價(jià)的。第十七頁，共三十二頁，2022年，8月28日編碼曲線的橫坐標(biāo)（續(xù)一）對連續(xù)信道而言，也可用信道符號信噪比作橫坐標(biāo)，因此經(jīng)過信道編碼后的誤碼性能一般都能有所改善，即誤碼曲線向左下方移動(dòng)，但這是以效率降低為代價(jià)的。第十八頁，共三十二頁，2022年，8月28日編碼曲線的橫坐標(biāo)（續(xù)二）但對連續(xù)信道，用Eb/N0為橫坐標(biāo)更具有可比性，因?yàn)樗怯迷畔⒌哪芰颗c信道噪聲能量進(jìn)行的比較，從而避免了因冗余的引入使總傳輸能量增加而造成的不可比性。第十九頁，共三十二頁，2022年，8月28日編碼增益采用逐符號譯碼的誤比特性能要優(yōu)于序列譯碼采用逐符號譯碼的誤幀性能要劣于序列譯碼編碼后的誤幀率總會有所改善編碼后序列譯碼的誤比特率在高信噪比時(shí)總要優(yōu)于無編碼而信噪比很低時(shí)要劣于無編碼，即編碼增益在高SNR時(shí)大于0，而SNR很低時(shí)小于0。系統(tǒng)編碼后逐符號譯碼的誤比特率總要優(yōu)于無編碼，即至少存在一種編碼，它的誤比特率編碼增益總大于0。第二十頁，共三十二頁，2022年，8月28日誤碼率計(jì)算中的常用方法及近似成對差錯(cuò)概率，對任一對合法碼字x1和x2

，發(fā)送的是碼字x1

，而根據(jù)譯碼規(guī)則判斷為x2的概率。記為P(x1x2)成對差錯(cuò)概率描述的是在特定的信道條件下，給定的譯碼規(guī)則下，合法碼字集中特定的一對碼字間的差錯(cuò)概率。一般比較容易給出解析表達(dá)式或進(jìn)行數(shù)值計(jì)算二進(jìn)制編碼中的成對差錯(cuò)概率P(x1x2)由x1和x2之間的漢明距離決定。第二十一頁，共三十二頁，2022年，8月28日碼字集的誤碼率碼字集的誤碼率描述的是一種編碼方案的總體誤碼性能，是評價(jià)編碼好壞的標(biāo)準(zhǔn)。但一般較難得到準(zhǔn)確的結(jié)果，需要用一些近似，得到性能界。聯(lián)合界：落在并集中的概率不大于落在各集合中的概率之和?？梢杂贸蓪Σ铄e(cuò)概率描述誤碼性能界

Pe=x1P(x1)P(e|x1)

x1P(x1)x2P(x2)P(x1x2)=x1x2P(x1)P(x2)P(x1x2)第二十二頁，共三十二頁，2022年，8月28日距離譜對BSC信道中誤碼率聯(lián)合界進(jìn)一步分析：P(e|x1)

x2P(x2)P(x1x2)=dhN(dh)F(dh)

dhN(dh)Ddh其中N(dh)是到一個(gè)合法碼字x1距離為的dh合法碼字的平均個(gè)數(shù)。F(dh)為漢明距離為dh的一對碼字間的成對差錯(cuò)概率。N(dh)作為一個(gè)距離的函數(shù)來看時(shí)就稱作該編碼相對碼字x1的距離譜第二十三頁，共三十二頁，2022年，8月28日平均編碼界（續(xù)）在證明最優(yōu)編碼的存在性時(shí)，常用到這個(gè)方法。即我們不要求找到這種編碼，但如果在某一類編碼集合中的所有編碼其誤碼性能的平均值能達(dá)到我們的要求，則必存在至少一種編碼，其誤碼性能能達(dá)到要求。第二十四頁，共三十二頁，2022年，8月28日平均編碼界即至少存在一種編碼C，有Pe(C)Ec(Pe(C))Ec(Pe(C))=x1P(x1)P(e|x1) =x1P(x1)C’P(C’)P(e|C’,x1)

x1P(x1)C’P(C’)x2P(x2|C’)P(x1x2) =x1P(x1)C’

x2P(x2)P(x1x2) =|C’|x1x2P(x1)P(x2)P(x1x2)注意這里的x1和x2均取自于全空間。第二十五頁，共三十二頁，2022年，8月28日Bhattacharyya界對成對差錯(cuò)概率進(jìn)行一定的近似P(x1x2)=yD2P(y|x1)

yD2P(y|x1)(P(y|x2)/P(y|x1))1/2

y(P(y|x1)P(y|x2))1/2其根本思想是在概率積分中當(dāng)部分積分較難做時(shí)，乘以某個(gè)不小于0的函數(shù)，該函數(shù)在積分區(qū)間中的值大于等于1。從而將積分區(qū)間擴(kuò)展到全空間。該函數(shù)還可以有參數(shù)，通過優(yōu)化參數(shù)，可以使界盡量的緊。例如，這里用到的系數(shù)函數(shù)為(P(y|x2)/P(y|x1))1/2，也可以推廣為[P(y|x2)/P(y|x1)]s，0s1。第二十六頁，共三十二頁，2022年，8月28日截止速率R0在平均碼性能界中，令P(x1)=kP(x1k),P(x2)=kP(x2k),同時(shí)假設(shè)信道為DMC，則可推出：Ec(Pe(C))|C’|{y[yP(x)P(y|x)1/2]}n其中P(x)為編碼輸出符號概率律，P(y|x)為信道的符號轉(zhuǎn)移概率，n為編碼長度。令R0(P)=-log2{y[yP(x)P(y|x)1/2]}，而k=log2(|C’|+1)為編碼前的比特?cái)?shù)。則Ec(Pe(C))2k-nR0(P)第二十七頁，共三十二頁，2022年，8月28日截止速率R0（續(xù)）其中R0(P)不僅與信道有關(guān)，還是編碼符號概率律的函數(shù)，因此可以通過選擇合適的P(x）使其最大，最大值記為R0。至少存在一種(n,k)