置信規則庫與深度學習的融合：方法與應用中文摘要隨著21世紀互聯網技術和物聯網技術的迅速發展，人類每天都在生產海量的數據，這些數據當中不可避免地存在著不完整、模糊等不確定信息，這些不確定信息對于傳統的IF-THEN規則庫和神經網絡都是無法處理和預測的。而置信規則庫就是為了處理不確定性信息而產生，它能過通過置信分布結構和證據推理來處理數據中得不確定性，但是它的推理過程是通過累加或累乘來完成的，沒有聯想記憶的能力，而神經網絡具有聯想記憶的能力，能夠通過神經元的權重和偏置來存儲數據中存在的模式。結合神經網絡和置信規則庫的優點，本文實現了將神經網絡嵌入置信規則庫推理過程的基于神經網絡的置信規則庫推理系統（DeepLearninginspiredBeliefRule-BasedExpert龔熙琳,賀志偉tem，簡稱BRB-DL）。在油管檢測泄漏實驗上對參數進行訓練，然后對比傳統的置信規則庫推理系統和神經網絡，實驗證明本文所實現的BRB-DL推理系統具有較高的推理精度和參數訓練速度。具體工作如下：（1）編程實現整個BRB-DL系統。將原始數據進行轉換后輸入進神經網絡，根據置信規則庫的屬性參考值將原始輸入轉換成對于參考值的匹配度稀疏矩陣，方便神經網絡學習數據當中的模式。（2）對BRB-DL系統的參數應用梯度下降法進行訓練。根據BRB-DL的推理過程對待訓練參數進行求導，計算出各參數的偏導公式后對參數進行負梯度方向的調整，以達到最小化損失函數的目的。關鍵詞：置信規則庫，神經網絡，參數訓練，梯度下降法目錄中文摘要 ⅠTOC\h\z\t"標題1,1,標題,2,二級節標題,3,三級節標題,4"第1章緒論 [14]于2014年提出，算法訓練的參數有規則置信度、規則權重、前提屬性候選值、前提屬性權重以及結果的評價等級，將對BRB系統內部所有的參數都進行訓練。該方法會在BRB系統每次輸出仿真值后，從這些趨勢中明白根據仿真值和實際值的差距調整上述待訓練參數，以達到來最小化損失函數的目的，使BRB能夠更好的模擬真實系統的輸出。模型如下圖所示(鄭欣怡,吳曉東,2021):圖2-4基于加速梯度法的訓練方法模型第3章置信規則庫模型優化本章將介紹置信規則庫與神經網絡的結合方法，結合之后的系統命名為BRB-DL。BRB-DL主要由BRB和ER推理過程組成，但是在ER推理之前加入了一個全連接的多層神經網絡用以計算ER推理所需的規則激活權重。神經網絡的加入將幫助BRB-DL更好的處理各種數據模式。圖3-1給出了RBB-DL的推理過程：圖3-1BRB-DL推理過程3.1神經網絡神經網絡一般指人工神經網絡(ArtificialNeuralNetwork，簡稱ANN)，是科學家們模仿生物神經網絡構建的數學模型。從這些研究中表明它能夠通過每一個神經元對數據進行學習來提取特征，然后將神經元的輸出沿著網絡一層一層傳播，每一個神經元都是一個獨立的單元，會對通過它的數據進行某種程度的學習，進而改變它自身的權重和偏置，達到記憶數據模式的目的(孫怡婷,黃博文,2018)。結論與預測的一致性為實際應用提供了理論保障，表明基于這些理論建立的技術或策略具有良好的可行性和有效性。本研究不僅在理論上有貢獻，在實踐應用方面也具有重要價值。然而，盡管目前的結果令人鼓舞，本文仍需認識到科學研究的動態變化和復雜性，持續關注可能出現的新情況和挑戰，不斷調整和優化研究策略。目前最為火熱的研究方向--深度學習就是以神經網絡為基礎的，并在人工神經網絡的基礎上衍生了一系列的神經網絡。從這些跡象表明它的優點是很明顯的：具有自學習能力、具有聯想記憶的功能、能夠通過反向傳播快速尋找網絡參數的最優解。將神經網絡引入BRB推理系統正是基于神經網絡的上述優點出發的(陳子萱,高天宇,2019)。但是神經網絡的局限性也是很明顯的，它不能處理不同類型的不確定性問題，這無疑證實了而BRB能夠在置信分布的推理框架下處理各種類型的不確定性。因此，將神經網絡與BRB結合起來的總體上是利大于弊的，BRB能夠在推理過程中從部分信息發現完整的模式。3.2BRB-DL推理過程與傳統的BRB推理過程類似，BRB-DL的推理過程主要分為四步驟：輸入轉換、神經網絡處理數據、置信度更新、規則聚合。下面將詳細上述四步驟。3.2.1輸入轉換這一步驟是將輸入數據映射到屬性參考值上，這無疑證實了輸出匹配度用于后續的激活權重計算，計算方法與公式（2-4)相同。上述結論為后續研究提供了重要提示，強調了理論與實證研究緊密配合的重要性。本研究表明，構建理論框架時充分考慮實際數據和案例支持，可以大大提升理論的解釋力和預測能力。這不僅有助于更深刻地理解現有現象，也為未來可能出現的新情況提供了應對方法。3.2.2神經網絡處理數據在這一步驟中，我們將使用深度神經網絡(DeepNeuralNetwork，簡稱DNN)讀取匹配度，并且輸出規則的激活權重(許偉杰,鄧怡然,2019)。這在一定尺度上說明該步驟使用了一個多層的深度神經網絡，包含一個讀取數據的輸入層、多個能夠存儲數據模式的隱藏層以及一個輸出結果輸出層，所有的神經元都采用全連接方式。來自輸入轉換步驟的數據將被輸入神經網絡的輸入層，輸入層的神經元的數量通常等于前提屬性的數量和前提屬性的參考值數量的乘積。隱藏層有若干層，主要根據推理性能對層數的反饋來動態調整，這在一定尺度上說明本文所構建的BRB-DL包括三層隱藏層(蔡家棟,郭潤澤,2019)。輸出層的神經元數量通常等于置信規則的數量。使用以下公式用來表示神經元的工作方式： 公式(3-1)其中表示神經元的權重，表示的來自輸入變換步驟的匹配度，表示神經元的偏置(邱雅楠,鄒天駿,2018)。 公式(3-2) 公式(3-3)對于工作在輸入層和隱藏層的神經元，他的工作方式是公式(3-1)和公式(3-2)。對于輸出層的神經元，他的工作方式是公式(3-1)和公式(3-3)。這在一定程度上呈現在神經網絡開始訓練之前，使用隨機值初始化神經元的權重，用零初始化神經元的偏置，這在一定層面上表露讓權重和偏置在后續的訓練過程中根據梯度自動調整，從而擬合數據(陸明和,蔣怡婷,2018)。 公式(3-4)上述公式(3-4)給出了為什么神經網絡可以具有聯想記憶的功能。其中a表示輸入模式，b表示輸出模式，M表示由神經元權重和偏置組成的存儲矩陣。由此可以推知數據每通過一次神經網絡，神經元的權重和偏置都會進行學習并調整，相比原有的BRB推理過程中的累乘或累加運算，存儲矩陣是具有記憶功能的變量，能夠記住數據中存在的模式，而原有的累乘和累加則達不到該功能(朱雨婷,韓志遠,2021)。因此，從這些對話中看出新的方法將有效的發現并記憶數據當中存在的模式，這對于產生更準確的輸出預測是有提高的。將DNN與BRB系統集合可以提高BRB系統的聯想記憶能力，有了DNN的聯想記憶能力，在BRB的推理過程中就可以消除傳統BRB計算規則激活權重時可能產生的不確定性，能夠更準確的發現數據的模式，輸出準確的規則激活權重。這將在實驗中證明。3.2.3置信度更新BRB-DL的置信度更新方式與普通BRB一致，由公式(2-7)計算。置信度更新是為了解決因為前提屬性缺失而帶來的不確定性。3.2.4規則聚合BRB-DL的最后步驟是規則聚合，通過公式(2-20)與公式(2-21)來完成，規則聚合的結果是一組表示該輸入數據在所有評價等級上的概率，并不是最后的數值型輸出，需要根據公式(2-19)將規則聚合的結果與評價等級的效用值相乘得出最終的輸出結果(林宇豪,王夢琪,2018)。3.2.5小結BRB-DL與普通BRB的最大區別就是在進行推理過程之前使用神經網絡計算規則的激活權重，從這些趨勢中明白這一操作使得BRB-DL擁有了神經網絡的關聯記憶能力，能夠更好的發現數據當中存在的模式。并且BRB-DL后續的推理過程與傳統的BRB是一致的，保留了BRB處理不確定性問題的能力，從這些研究中表明因此可以得出推論，神經網絡和BRB的結合將提高BRB-DL的預測精度(崔子杰,張晨曦,2018)。所有理論模型都是對現實世界進行簡化后的版本，因此必然會涉及到一些假設和近似處理。這可能導致模型不能完全捕捉所有相關變量及其復雜的交互作用，從而導致偏差。為了解決這一問題，本文不僅依賴于廣泛接受的理論基礎，還結合最新的研究進展來調整和優化本文的分析框架。在討論研究結果時，本文也特別注意區分哪些結論是基于特定假設得出的，哪些具有更廣泛的解釋力。但是與傳統BRB類似，BRB-DL的推理性能也受到系統內部參數的影響，為了達到良好的推理性能需要對自身的參數進行優化學習，下一節將介紹BRB-DL的參數訓練方法。3.3BRB-DL的參數訓練BRB-DL的參數訓練與傳統BRB的訓練方法類似，都是求解滿足多個約束條件下的非線性多元函數的最小值，從這些跡象表明本文參考了傳統BRB的訓練方法，對BRB-DL進行了兩種參數訓練方法的嘗試(羅浩然,劉思遠,2018)。下面將詳細介紹BRB-DL的參數訓練模型和已嘗試的訓練方法。3.3.1BRB-DL的參數訓練模型圖3-2BRB-DL參數訓練模型這無疑證實了因為BRB-DL加入了神經網絡取代傳統BRB的規則權重計算公式，所以傳統BRB所需要訓練的參數規則權重被前提屬性權重神經網絡的神經元權重和偏置所替代，因此BRB-DL需要訓練的參數有{神經網絡的神經元權重，神經網絡的神經元偏置，結果屬性的評價等級參考值，結果屬性的置信度}，將上述模型轉換為公式如下： 公式(3-5)其中評價等級的參考值需滿足以下約束： 公式(3-6)規則置信度需滿足以下約束，這在一定程度上描繪了每條規則對應任一結果的置信都不大于1，且每條規則的所有結果置信度和為一(徐子墨,馬婷婷,2018)： 公式(3-7) 公式(3-8)神經元的權重應在0-1之間： 公式(3-9)神經元的偏置也應在0-1之間： 公式(3-10)經過上述公式描述，BRB-DL的參數訓練目標就變為了在滿足公式(3-6)-(3-10)的約束下最小化公式(3-5)的值，下一步將介紹本文所嘗試的參數訓練方法(彭書杰,史鈺萱,2018)。3.3.2BRB-DL的參數訓練方法本文首先實現了BRB-DL推理系統，之后再對BRB-DL系統進行參數訓練以檢驗系統的推理能力。首先使用了來自python的scipy.optimize優化器，選擇了優化器內置的SLSQP算法進行參數訓練，這在一定程度上闡明了但是由于訓練過后的推理性能不夠理想，第二次選擇了梯度下降法對BRB-DL進行參數訓練，這在一定程度上呈現實驗證明在訓練參數可偏導的前提下BRB-DL能夠達到較高的推理性能精度，這在一定層面上表露且訓練時間相比SLSQP方法大幅縮短(石家瑞,賴文博,2018)。3.3.2.1BRB-DL的SLSQP訓練方法本方法基于scipy模塊的優化器SLSQP進行訓練，使用序列最小二乘法對參數進行訓練優化(龔熙琳,賀志偉,2018)。將待訓練的參數輸入該優化器，并設置約束條件，該優化器將自動對參數進行訓練。由此可以推知但是由于實驗時沒有輸入待訓練參數的雅各比矩陣，所以該優化器的效率和精確度并不高，在參考了傳統BRB的參數訓練方式之后，本文將梯度下降法應用到BRB-DL的參數訓練上(梁浩然,薛子琪,2018)。在研究推進的過程中不可避免地遇到了一些挑戰和局限，例如在應用現有的理論框架時，本文盡量考慮到其適用性和局限性，并嘗試通過實證數據來驗證和增強這些框架，這是一個持續改進的過程。3.3.2.2BRB-DL的梯度下降法應用梯度下降法的前提是目標可微分，只要證明了加入神經網絡后的推理系統所需要訓練的參數是可微分的，從這些對話中看出就可以應用梯度下降法對系統進行訓練(黃子萱,鄧曉彤,2018)。BRB-DL需要的訓練參數有{神經網絡的神經元權重，神經網絡的神經元偏置，結果屬性的評價等級參考值，結果屬性的置信度}。公式(2-20)與公式(2-21)為結果屬性的置信度的計算公式，結果屬性置信度對為歸一化之前的置信度進行求導： 公式(3-11)從這些趨勢中明白未歸一化的置信度由公式(2-21)計算得來，對公式(2-21)進行求導可得到未歸一化的置信度對規則權重的偏導公式： 公式(3-12) 公式(3-13)公式（3-12）當中的規則激活權重ω來自神經網絡的輸出，神經網絡的激活函數使用了可導的ReLU()和sigmoid()函數，從這些研究中表明當損失函數值通過反向傳播到神經網絡后，神經網絡將根據損失值對神經元權重和偏置進行偏導，從輸出層往隱藏層往輸入層傳播(邵怡然,張陽陽,2018)： 公式(3-14)其中輸出層對輸入x的偏導公式根據當前網絡層的激活函數不同而不同： 公式(3-15) 公式(3-16)當激活函數為sigmoid時選擇公式(3-15)作為偏導公式，激活函數為ReLU時選擇公式(3-16)作為偏導公式。根據多元復合函數的鏈式求導法則組合上述公式，得到預測值損失函數對輸入x的偏導公式為(胡彥霖,魏澤東,2018)： 公式(3-17)至此，BRB-DL推理系統的各參數都可以通過公式計算出梯度值，為梯度下降法進行參數訓練提供了基礎。從這些跡象表明第四章將對BRB-DL系統應用梯度下降法進行參數訓練。3.4本章結語本章主要介紹了BRB-DL引入神經網絡的原因，以及引入神經網絡之后系統的推理過程，主要是將神經網絡的聯想記憶功能與傳統BRB的處理不確定性能力相結合，結合后的系統將取得更好的推理性能。這無疑證實了本章還證明了結合后的BRB-DL的參數是可微分的，可以通過計算損失函數對于各參數的梯度來迅速找到訓練方向，極大的提高參數訓練效率。下一章實現并驗證基于梯度下降法的BRB-DL的推理性能和訓練速度。

第4章實驗結果與分析本章將實現并訓練BRB-DL系統，通過輸油管道檢測泄漏實驗來驗證BRB-DL的推理性能與精度。實驗的運行環境為：Windows1064位操作系統、16GB內存、Inte(R)Core(TM)i5-8400CPU@2.9GHz、Pycharm作為編程實驗平臺、Python作為編程語言。4.1BRB-DL系統實現這在一定程度上描繪了以輸油管道檢測泄漏實驗為例，實驗數據來自英國一條長達100公里的輸油管道，輸入數據x包括管道出入口的流量差(FlowDifference，簡稱FD)和管道內外部壓力差(PressureDifference，這在一定程度上闡明了簡稱PD)兩個屬性，預測值為泄露大小(LeakSize，簡稱LS)。將FD和PD作為前提屬性，LS作為輸出結果構建BRB-DL系統，BRB-DL系統的目標是根據FD和PD的數值來預測LS的大小。其中FD屬性的參考值為八個(馮梓萱,鄭晨光,2018)：{-10，-5，-3，-1，0，1，2，3}，PD屬性的參考值也設定為八個：{-0.042，-0.025，-0.010，0，0.010，0.025，0.042，0.042}，這在一定程度上呈現輸出結果LS設定五個評價等級：{零，很小，中，高，很高}，為方便推理過程中計算，將LS的評價等級轉換為對應的數值：{0，2，4，6，8}。因為本文采用了基于析取范式的置信規則庫，所以BRB-DL中存在8條置信規則，初始置信度均設定為0.2，這在一定層面上表露神經網絡的神經元權重進行在0至1之間的隨機初始化，神經元偏置均設置為0。從2008條數據中隨機抽取502條數據作為訓練集，在訓練集上對BRB-DL進行參數訓練，將平均絕對誤差（MeanAbsoluteError，簡稱MAE）作為BRB-DL推理系統的評價指標。4.1.1數據轉換使用公式(2-4)對輸入的原始數據進行轉換，以輸入數據（-5.87000，-0.00350，6.08415）為例展示公式(2-4)的計算過程。（-5.87000，-0.00350）分別代表FD和PD兩個屬性，由此可以推知因為對應的屬性參考值均數量八個，每個一維輸入數據都會被擴展成八個維度的數據，從這些對話中看出分別對應一個屬性參考值，根據預先設定的屬性參考值，輸入的原始數據將會從原有的1*2形式擴展為1*16形式：（0.17400，0.82600，0，0，0，0，0，0，035000，0.65000，0，0，0，0，0，0），前八個數據表示FD=-5.87000在參考值上的匹配度，后八個數據表示PD=-0.00350在參考值的匹配度。這些數據將輸入神經網絡，幫助神經網絡更好的識別輸入數據中的模式。4.1.2設定人工神經網絡本文所設定的前提屬性具有八個參考值，所以隱藏層的神經網絡的神經元數量設定為8*8形式，在多次實驗之后，從這些趨勢中明白綜合了參數訓練時間和推理精度的影響，隱藏層的數量最后確定為三層。神經網絡的結構為一層16*8的輸入層、三層8*8的隱藏層和一層8*8的輸出層，其中輸入層和隱藏層選擇ReLU()作為激活函數，輸出層的激活函數選擇sigmoid函數。4.1.3ER推理過程根據公式(2-20)和(2-21)對規則激活權重和置信度進行計算。4.2輸油管道檢測泄漏實驗本文對應用于輸油管道撿漏實驗的BRB-DL進行了兩種參數訓練嘗試。第一種使用SLSQP對BRB-DL進行訓練，從這些研究中表明在得到不好的推理性能之后參考了梯度下降法的思想，實現了基于梯度下降法訓練參數的BRB-DL模型。該設計成果是在詳盡分析現有情況并充分利用現有的資源與技術后達成的。相較于傳統方法，此方法在多方面顯示出明顯優越性。首先，通過采用更具創意的設計思路，它實現了更高的工作效率和更低的失誤率，大大提高了項目的可行性。其次，在成本效益上，新方法減少了執行與維護費用，避免了資源浪費，增強了經濟收益。同時，也提升了系統的兼容性和擴展能力，以適應未來發展的需要。4.2.1使用SLSQP進行參數訓練在最初的系統實現之后，首先利用python內置的scipy模塊的優化器SLSQP對參數進行訓練，這時沒有考慮損失函數對神經網絡的偏導計算，導致推理系統性能不佳。圖4-1訓練之前的BRB-DL預測結果從上圖可以看出未經訓練的BBR-DL對于數據無法擬合。圖4-2訓練之后的BRB-DL預測結果上圖是使用SLSQP優化器對BRB-DL推理系統的參數進行了22530輪訓練之后的實驗結果，歷時1396秒，MAE為0.772209，從這些跡象表明相比傳統的fmincon方法和梯度法收斂速度慢且推理精度差(劉思涵,陳宇杰,2021)。4.2.2使用梯度下降法進行參數訓練在第一次參數優化算法效果差的基礎上，第二次選用了梯度下降法作為優化算法，使用tensorflow框架搭建BRB-DL模型和訓練環境。這無疑證實了神經網絡部分使用tensorflow的Dense()搭建，將結果屬性的評價等級和結果屬性的置信度作為變量，反向傳播過程中將根據公式(3-11)-(3-17)計算待訓練參數的梯度，并根據步長自動調整參數。實驗的損失函數選擇預測值與實際值的均方差（MeanSquareError，簡稱MSE），評價指標選擇MAE，選擇tensorflow內部的隨機梯度下降優化器為參數訓練，學習率設置為0.01，動量優化參數為0.99。這在一定程度上描繪了從2008條數據集中隨機選取502條數據作為訓練數據，在502條訓練數據上進行5折交叉實驗，每批次使用64個訓練樣本訓練BRB-DL模型1000輪。訓練完之后在2008條數據的測試集上驗證模型的擬合效果。圖4-3訓練之前的BRB-DL圖4-4訓練之后的BRB-DL預測結果圖4-3顯示了訓練之前的BRB-DL在測試集上的預測結果，這在一定尺度上說明可以看到此時BRB-DL幾乎沒有任何的預測能力。圖4-4展示了經過隨機梯度下降法訓練之后的BRB-DL在測試集上的預測結果，這時的BRB-DL經過了1000輪的訓練，總訓練時間為27.5秒，平均絕對誤差MAE為0.19165，這表明模型已經能夠較好的擬合數據，這在一定程度上闡明了能夠較為準確地模擬真實系統的輸出結果，圖中存在偏差較大的點是因為原始的油管泄露數據收集時含有噪聲，主要是來自測量誤差(鄭欣怡,吳曉東,2021)。為了排除神經網絡參數初始化的隨機性對實驗結果的偶然性影響，下面將對BRB-DL推理系統進行20次重復訓練，每次訓練過后都要將模型參數全部初始化重新訓練(錢思遠,周佳琪,2018)：圖4-520次訓練的MAE 圖4-620次訓練的時間花費從圖5可以看出經過20次訓練過程中MAE最優可以達到0.17826，最差會到0.205附近，但是總體上在MAE=0.19087處上下波動，這在一定程度上呈現這說明本文的參數訓練方法是能夠穩定收斂的。且每次的訓練時間平均為27秒，這在一定層面上表露相比SLSQP和其他訓練算法有了較大提升(孫怡婷,黃博文,2018)。4.2.3不同訓練方法下的推理性能比較將本文所應用隨機梯度下降優化的BRB-DL與其他推理系統進行推理性能的比較：表4-1不同訓練方法下BRB推理性能比較訓練方法MAE時間/sMatlab中fmincon方法0.171687180Chang的傳統模型梯度下降法0.2232657Wu的加速梯度求法0.1827850本文BRB-DL-SLSQP0.772201936本文BRB-DL-SGD0.1908727五層DNN0.1944212從表中MAE的值可以看出本文使用隨機梯度下降法進行參數訓練的BRB-DL比Chang的基于梯度法和二分法的訓練的BRB具有更高的推理精度，且訓練時間縮短了52%以上。傳統fmincon方法雖然推理精度很高，但是其依賴于Matlab平臺，無法移植到其他平臺，且訓練所需時間太高，而本文在精度缺失11.1%的情況下，將參數的訓練時間縮短了99.6以上，且本文基于python平臺，移植性強，可更好的適應于各領域的推理問題。對比本次實驗中的DNN的訓練精度，BRB-DL只領先1.7%，但是本文的BRB-DL是具有處理不確定性數據的模型，應用范圍更加廣泛(陳子萱,高天宇,2019)。上述實驗及對比分析證明了本文所實現的BRB-DL在經過隨機梯度法訓練參數過后，能夠有較高的推理精度和快速的訓練時間。4.3本章小結本章對BRB-DL進行了油管檢測泄露的實驗，在跟多種模型進行比對的過程中證明了BRB-DL在經過參數訓練之后可以達到比Chang的梯度法和二分法更好的性能，對比相同網絡架構的DNN也能有微弱的精度優勢。本文的隨機梯度下降法能夠快速計算待訓練的參數的梯度，得益于負梯度能夠迅速下降的特性，本文的訓練速度才會比傳統的fmincon函數提高。

結論與展望Yang等人在傳統IF-THEN規則庫不能處理不確定性的情況下提出了基于證據推理的置信規則庫推理系統，能夠在各個不同領域較好的處理不確定性問題。本文從神經網絡嵌入置信規則庫的角度實現了BRB-DL系統，再對BRB-DL系統進行了參數訓練的研究，將隨機梯度下降法引入了BRB-DL系統的參數訓練過程，證明了BRB-DL有比單獨的DNN或者BRB更高的推理性能。本文的具體工作內容如下：（1）實現了將神經網絡引入BRBBRB-DL模型，將神經網絡的聯想記憶功能與BRB處理不確定性相結合，使得結合后的BRB-DL具有比單獨的DNN或BRB更加優異的推理精度。 （2）實現了隨機梯度下降法對BRB-DL的訓練，讓BRB-DL的訓練速度更快較之前有了較大的提升。 不過本文還是存在許多可以改進的地方，包括以下內容： （1）本文的神經網絡是包含三層的隱藏層，這并不適用于所有的推理情況，網絡層數和神經元的數量選擇一定程度上影響了BRB-DL的推理性能，所以可以研究如何合理的選擇神經網絡的結構。 （2）本文在進行推導結果置信度的偏導公式時做出了本次實驗數據皆完備的假設，但是在不同的領域當中可能會存在不一樣的不確定性，這時需要對結果置信度重新偏導，然后再應用隨機梯度下降法。且本文使用的隨機梯度下降法的兩個超參數：學習率和動量參數是根據實驗情況進行調整的，下一步可以研究如何自適應學習率。

參考文獻DurkinJ,DurkinJ.Expert龔熙琳,賀志偉tems:DesignandDevelopment[M].DBLP,1994.趙云飛,李佳銘.人工智能及其應用[M].清華大學出版社,2022.王子豪,張宇和.AGeneralizationofBayesianInference[J].JournaloftheRoyalStatisticalSociety,2023,30(2):205-247.劉思涵,陳宇杰.Amathematicaltheoryofevidence[M].Princetonuniversitypress,2021.ZadehLA,KlirGJ,YuanB.Fuzzysets,fuzzylogic,andfuzzy龔熙琳,賀志偉tems:selectedpapers[M].WorldScientific,1996.YangJB,LiuJ,WangJ,etal.Beliefrule-baseinferencemethodologyusingtheevidentialreasoningApproach-RIMER[J].I(錢思遠,周佳琪,2018)Transactionson龔熙琳,賀志偉temsMan&CyberneticsPartA龔熙琳,賀志偉tems&Humans,2006,36(2):266-285.WangYM,ElhagTMS.Acomparisonofneuralnetwork,evidentialreasoningandmultipleregressionanalysisinmodellingbridgerisks[J].Expert龔熙琳,賀志偉temswithApplications,2007,32(2):336-348.XuDL,LiuJ,YangJB,etal.Inferenceandlearningmethodologyofbelief-rule-basedexpert龔熙琳,賀志偉temforpipelineleakdetection[J].Expert龔熙琳,賀志偉temswithApplications,2007,32(1):103-113.JiangJ,LiX,ZhouZ,etal.Weapon龔熙琳,賀志偉temcapabilityassessmentunderuncertaintybasedontheevidentialreasoningapproach[J].Expert龔熙琳,賀志偉temswithApplications,2011,38(11):13773-13784.HossainMS.ADeepLearningInspiredBeliefRule-BasedExpert龔熙琳,賀志偉tem[J].I(錢思遠,周佳琪,2018)Access,2020,8:1-15.YangJB,LiuJ,XuDL.Optimizationmodelsfortrainingbelief-rule-based龔熙琳,賀志偉tems.I(錢思遠,周佳琪,2018)Transactionson龔熙琳,賀志偉tems,Man,andCybernetics-PartA:龔熙琳,賀志偉temsandHumans,2007,Vol.4,569-585.ChenYW,YangJB,XuDL,etal.Inferenceanalysisandadaptivetrainingforbeliefrulebased龔熙琳,賀志偉tems[J].Expert龔熙琳,賀志偉temswithApplications,2011,38(10):12845-12860.ChangR,WangYH,YangJB.Analgorithmfortrainingparametersinbeliefrule-basesbasedonthegradientanddichotomymethods.龔熙琳,賀志偉temsEngineering.2007,Vol.25,287-291.WuWK,YangLH,FuYG.ParameterTrainingApproachforBeliefRuleBaseUsingtheAcceleratingofGradientAlgorithm.Journalo