1、    mmo檢測算法與深度學習方法探討    朱嘯豪 姜述超 孫超摘 要： 作為未來5g通信的核心技術之一，大規模多輸入多輸出（multple-nput multple-output，mmo）技術獲得了廣泛的研究。但是，“大規模”帶來顯著性能增益的同時，也給接收機設計帶來了挑戰，尤其是考慮到資源和成本限制，基站天線在滿足性能需求的同時，需要盡可能少。論文首先討論了mmo情景下的傳統檢測算法，如最大似然（maxmum lkelhood， ml）檢測算法、迫零（zero-forcng， zf）檢測算法及線性最小均方誤差（lnear mnmum mean s

2、quare error， lmmse）檢測算法等。仿真結果表明最優的 ml算法的復雜度隨著用戶數指數增加。在接收天線數不是充分多時，次優的zf和lmmse算法都會有顯著的性能損失。針對這一問題，討論了基于深度學習框架的解決方案，包括目前已有的lamp（learned approxmate message passng）檢測算法和神經網絡detnet算法;基于全連接網絡結構做了初步探索。經過對它們的仿真比較，發現基于深度神經網絡的mmo檢測算法，確實可以提升傳統檢測算法的性能;但對神經網絡系數的優化，可能會導致較高的訓練復雜度，論文討論了可能的解決方法。關鍵詞： 大規模mmo; 深度神經網絡;

3、5g; 信號檢測： tn92      文獻標志碼： adscusson on mmo detecton algorthms and deep learnng methodszhu xaohao， jang shuchao， sun chao（department of communcaton scence and engneerng，fudan unversty， shangha 200433）abstract： as one of the key technologes of 5g communcaton n the future， massve multpl

4、e-nput multple-output （mmo） technology has ganed extensve research nterest. however， "large scale" brngs sgnfcant performance gans， and also poses challenges for recever desgn， especally consderng resource and cost constrants. base staton antennas need to be as small as possble whle meetng

5、 performance requrements. the paper frst dscusses tradtonal detecton algorthms n mmo scenaros， such as maxmum lkelhood （ml）， zero-forcng （zf） and lnear mnmum mean square error （lmmse） algorthm. results show that the complexty of the optmal ml algorthm ncreases wth the number of users， whle zf and lm

6、mse have sgnfcant performance loss， especally when the recevng antenna and the number of users are close. n response to ths problem， the paper dscusses solutons based on deep learnng framework， ncludng the exstng lamp detecton algorthm and neural network detnet; and the prelmnary exploraton of the p

7、aper based on fully connected networks. after comparng ther smulatons， t s found that the mmo detecton algorthm based on deep neural network can mprove the performance of tradtonal detecton algorthms. however， the optmzaton of neural network coeffcents may stll lead to hgher tranng complexty. the pa

8、per dscusses possble soluton.key words： massve mmo; deep neural network; 5g; sgnal detecton0 引言大規模多輸入多輸出（mmo）技術作為5g通信的關鍵基礎技術，是主要的研究熱點之一1，在mmo系統中，多個干擾信息或符號被同時傳輸，而我們希望在接收端檢測出被噪聲和干擾污染的發送信號。對于mmo檢測問題的最優算法：最大似然準則（ml），其計算復雜度將隨發送天線數nt顯著增加。而計算復雜度低的傳統檢測算法如迫零（zf）檢測算法、線性最小均方誤差（lmmse）檢測算法等，在接收天線數nr沒有遠大于nt時，性能損失

9、明顯。因此這種場景下尋找低復雜度、高性能的mmo檢測算法十分必要。最近十幾年，機器學習在工業界成功案例非常多2。機器學習中的有監督分類與信號檢測非常相似。機器學習里，學習模型的時候是計算最昂貴的時候，但這個過程可線下進行。近兩年，深度學習在通信方面得到了廣泛的關注，在mmo檢測領域，將深度學習與其他的檢測算法相結合也是將來重要的研究趨勢。本文接下來將首先仿真分析幾種傳統檢測算法，討論它們各自的優缺點和存在的問題;在第3部分將對基于深度學習的檢測算法進行討論，探索全連接網絡在檢測中的運用;最后進行總結。1 傳統檢測算法考慮mmo系統的仿真條件：位于接收端的基站有nr = 2，3，4，6，8根天線

10、，服務nt=4個單天線用戶，每個用戶發送bpsk信號，且相互獨立。發送接收端之間的鏈路是服從標準正態分布的高斯隨機信道，信噪比定義成ntp/2z，其中p=exkx*k是每個用戶的傳輸能量，如圖1所示。從圖1可以看出，nt=4固定，在nr較多時，lmmse和zf的誤碼率都表現不錯，隨著接收天線的減少，傳統檢測方法的性能損失（相比ml方法）顯著增加。進一步分析：a） ml的復雜度隨發送天線增多以及調制星座點數的增加呈指數關系，實際中往往不可行;b） zf和lmmse雖計算復雜度較低，但nr     注意到這里的性能分析是以最優的ml方法為參考的，而ml的復雜度隨著nt的增加呈指

11、數增加。因此，為了方便仿真，nr和nt的取值都較小。但我們期待相應的結論在nr和nt取值較大時同樣成立：zf和lmmse的性能在nr和nt取值相近時，與ml相比，性能損失明顯。2 基于神經網絡的檢測算法前文已經說明了傳統檢測算法在mmo場景里并不能滿足所有需求，因此將深度學習引入mmo檢測中以獲得復雜度與性能要求下最佳的檢測器是有意義的。2.1 lampapproxmate message passng （amp）算法是最近提出的基于因子圖的迭代算法，用于解決l1問題，比如壓縮感知3。文獻4中，討論了其在mmo檢測中的應用，其迭代公式如式（1）、式（2）。vt=y-ht+btvt-1（1）t+

12、1=stt+hvt;t（2）其中，hrnr×nt，0=0，v-1=0，t0，1，2，且bt=1nrt0，t=nrvt2.直觀上講，amp是首先對于發送符號向量x進行粗略估計;然后根據粗略估計的結果進行軟干擾消除;這兩步迭代進行，最終得到更加準確的估計結果。文獻5中證明了amp在收發天線趨于無窮時的漸進最優性。lamp算法是借鑒amp算法設計的神經網絡算法。為了獲得更好的性能，6中將公式（2）中的傳遞矩陣一般化為矩陣b，并通過訓練來優化b的選擇。此時，迭代的數學表達式為式（3）、式（4）。t+1=stt+btvt;t，t（3）vt+1=y-at+1+bt+1vt（4）其單層網絡圖如圖2

13、所示。若每一層的b是同樣的，則為ted-lamp，反之為unted-lamp。損失函數為式（5）。l（x;t（h，y）=lt=1x-t2（5）2.2 detnet由展開投影梯度下降算法替代ml的思路， neev samuel等人引入了detnet框架7。考慮mmo系統模型為式（6）。y=hx+z（6）  它的迭代公式為式（7）。k+1= k-ky-hx2x= k-khy+khhxk（7）其中，k是第k次迭代的估計， ·是一個非線性操作單元，k是步長。于是產生了以下架構圖，如圖3所示。另外參考迭代檢測思想， detnet提取了部分參數b3k、zk、w3k，構造了向量vk并將其

14、傳遞到下一層神經網絡中。detnet單元的數學表達式如式（8）式（10）。zk=w1khykhhkvk+b1k（8）k+1=tkw2kzk+b2k（9）k+1=w3kzk+b3k（10）其中k=1，l，并且tk·定義為式（1）。tk（x）=-1+（x+t）t-（x-t）t（11）  損失函數為式（12）。l（x;（h，y）=lk=1log（k）x-k2x-2（12）其中，=（hh）-1hy。可以看出在detnet中不需輸入噪聲的方差信息（因為ml算法并不需要噪聲方差），而方差信息是lmmse、amp等檢測器需利用的重要信息，因此理論上在外部噪聲未知或不穩定的時候，lmmse

15、、amp等算法的魯棒性不如detnet。2.3 算法仿真當接收端天線數nrnt時如圖4所示。a） 當nrnt時，從圖4可以看出，兩者（amp和dtnet）雖然比不上ml，但都比lmmse好了很多，在誤碼率為10-3時，lamp比lmmse提高了3.5 db，detnet比lmmse提高了4.6 db，性能較好，問題部分解決如圖5所示。b） 當nr 4 全連接網絡回顧lamp和detnet網絡的設計，其整體結構都可以理解為每層的信號估計和層與層之間的迭代檢測。不同之處在于每層的結構選擇，lamp是借鑒amp算法原理，detnet是利用投影梯度下降算法。考慮到發送信號的離散非高斯性，上述算法都不是

16、最優的;仿真結果也驗證了算法在某些場景下的性能損失。為此，本節中考慮去掉每層的結構限制，直接采用全連接網絡，探索基于深度學習框架的算法的性能極限。在接收機一端，接收到的信號為式（13）。y=hx+z（13）  在固定信道的條件下，接下來要利用y來檢測出x。文獻8中證明，只需一個包含足夠多神經元的隱層，多層前饋網絡就能以任意精度逼近任意復雜度的連續函數，這意味著總能找到一組參數（并不唯一），使得全連接網絡的檢測機盡可能的逼近ml的檢測效果。損失函數為式（14）。l（;h，y）=fnal_n-x2（14）  算法仿真。隱藏層為10層，每層200個神經元，激活函數為relu函數，

17、如圖6所示。設置發送天線數與接收天線數都是64時，此時對應的是大規模mmo的場景，ml因為復雜度過高不便進行仿真，全連接此時的性能比lmmse和zf好很多，如從圖7所示。從圖7可以看出，當接收端天線數nr5 總結傳統檢測方法在天線規模增大時，尤其接收端天線數nr參考文獻1 rusek f， persson d， lau b k， et al. scalng up mmo： opportuntes and challenges wth very large arraysj. sgnal processng magazne eee， 2012， 30（1）：40-60.2 shalev-shwar

18、tz s， ben-davd s. understandng machne learnng： from theory to algorthmsm. cambrdge： cambrdge unversty press， 2014.3 donoho d l， malek a， montanar a. message-passng algorthms for compressed sensngj. proceedngs of the natonal academy of scences， 2009， 106（45）： 18914-18919.4 senel k， larsson e g. devce actvty and embedded nformaton bt detecton usng amp n massve mmoj. arxv preprnt arxv：1709.05161， 2017.5 donoho d l， malek a， m