基于協同深度學習的二階段絕緣子故障檢測方法

0基于yolov3算法的精神故障檢測方法在線路巡檢作為電氣系統的重要絕緣器，絕緣器在構建的輸電線上起著重要作用，尤其是在防止電流返回給磁體方面。對絕緣器件的故障檢測一直是巡檢工作中的重要組成部分。放電檢測法是較為成熟的一種檢測手段。傳統的放電檢測法可以分為電檢測法和非電量檢測法。常見的電檢測法有電壓分布法、敏感電阻法、電場分布法等，雖然應用效果好，但需要登塔；非電量檢測法主要以紅外圖像法和紫外圖像法為發展方向，具有可遠距離、大面積快速檢測的優點，體現了絕緣子檢測精確、高效的發展方向。放電檢測法雖然技術成熟，但易受環境等諸多因素的影響，同時工作量巨大的定期斷網巡檢給人們的生活和工業生產帶來了諸多不便近年來，隨著無人機技術和計算機技術的飛速發展，基于航拍圖像的輸電線路中關鍵電氣設備的故障巡檢方式，已經成為線路巡檢的主要發展方向。目前國內外在電力設備檢測方面的研究已經取得了一定的進展在傳統圖像處理領域，文獻隨著神經網絡算法的發展，深度學習取得了突破性進展，由于其強大的表征和建模能力，使得在目標檢測領域顯現出了巨大優越性為解決目標檢測算法訓練和檢測速度緩慢的問題，基于回歸的目標檢測算法被提出，標志性算法有SSD(singleshotmultiboxdetection）算法為了排除航拍圖像中線路、桿塔等復雜因素對故障區域定位準確性的干擾，提高模型的定位及檢測精度，本文提出一種協同全卷積網絡（FullyConvolutionalNetworks,FCN）與YOLOv3算法的二階段絕緣子故障檢測方法。第一階段，利用FCN網絡預處理圖像，初步分割出濾除背景的絕緣子區域，排除圖像中無關區域的干擾；第二階段，建立基于YOLOv3算法的絕緣子故障檢測模型，實現絕緣子故障的準確檢測。采用K-means++聚類算法對數據集中的目標重新聚類分析，優化網絡錨點框參數，進一步提高檢測精度。1fcn權重模型訓練和測試本文提出一種基于協同深度學習的方法，即FCN和YOLOv3算法相協作，實現二階段絕緣子故障檢測的方法，其流程如圖1所示。一階段絕緣子數據集包含絕緣子無故障正樣本和故障負樣本；二階段訓練集2為濾除背景的絕緣子圖像，測試/實際診斷數據為新獲取的航拍絕緣子圖像。訓練和測試的具體流程為：(1）將訓練集1輸入VGG16特征提取網絡，通過三次上采樣得到原圖相同尺寸的特征圖，建立FCN權重模型。(2）圖像分割：將待分割圖像輸入到同一網絡，調用FCN權重模型對一階段測試集中的絕緣子圖像進行分割，輸出絕緣子分割結果。(3）邏輯運算：將一階段測試集圖像與測試集分割圖進行邏輯與運算，得到去除背景區域的絕緣子圖像，邏輯運算示意圖如圖2所示。(4）將步驟（3）的輸出作為訓練集2輸入到Darknet-53特征提取網絡，采用級聯的方式得到三種尺度的特征圖，建立YOLOv3權重模型。(5）故障檢測：將測試/實際檢測數據輸入同一YOLOv3網絡，調用YOLOv3權重模型對圖像進行絕緣子故障檢測，輸出故障檢測結果。2照片底片故障數據庫的建立由于目前還沒有絕緣子圖像的公開數據集，為了驗證本文絕緣子故障檢測方法，自主建立了航拍絕緣子故障數據庫。以無人機航拍的方式獲取了大量絕緣子圖像數據，并用labelimg工具對絕緣子故障進行人工標記，定義I-1為均壓環脫落故障，I-2為玻璃絕緣子爆缸故障。2.1實際樣本拍攝情況由于絕緣子為非易損器件且電力部門發現后會及時維修，故障數據較難采集，導致完好的正樣本與故障的負樣本在數量上嚴重不均衡，實際拍攝包含四季中晴天、陰雨天等多條線路樣本，且正樣本數量遠大于負樣本數量，數據集見表1。由表1可知，I-1和I-2故障負樣本一共280張，完好正樣本數量遠超故障負樣本數量，而某一類樣本少會導致算法難以充分學習該類別的信息2.2網三卷積層模型結構航拍絕緣子圖像中通常包含復雜的環境背景，為了避免背景區域對絕緣子故障檢測的干擾，一階段，訓練一個FCN語義分割模型用于初步分割絕緣子。FCN算法為了實現對圖像像素級的分類，以CNN分類網絡為基礎，首先，通過五次卷積、池化操作提取特征，得到含有深層語義信息的特征圖；然后，采用反卷積代替CNN最后的全連接層，對最后一個卷積層的特征圖進行上采樣，以恢復圖像的尺寸，從而預測每一個像素，同時保留了輸入圖像的空間信息；最后，利用Softmax分類器獲得各個像素點的二分類結果，實現像素級預測。絕緣子的分割流程如圖4a所示。本文以VGG16為基礎網絡，C1～C5卷積層提取淺層圖像特征，如邊緣、紋理等，C6～C8卷積層提取深層語義特征，得到1/32尺寸的熱圖。直接32倍上采樣得到FCN-32s模型，由于只使用了深層特征，無法充分利用淺層的空間位置信息，導致分割結果粗糙、分割邊界不連續。為了解決上述問題，充分利用淺層圖像信息，補充特征細節，本文設計了兩種跳躍結構：(1)將C8特征2倍上采樣和P4特征融合，對融合結果16倍上采樣得到FCN-16s模型。(2)將以上所得2倍上采樣和P3特征融合，對融合結果8倍上采樣得到FCN-8s模型，跳躍結構如圖4b所示。圖4中C1和C2分別表示連續的兩個卷積層，C3、C4、C5分別表示連續的三個卷積層，C6、C7、C8分別表示一個卷積層，P1、(43)、P5表示池化層，“2×”表示二倍上采樣，H和W分別表示長和寬。2.3成像尺寸不一，問題定位難由于計算資源的限制，且航拍設備拍攝獲得的圖像樣本尺寸不一，大大增加了絕緣子定位難度。根據圖像短邊長度，等比例對所有圖像的分辨率統一歸一化處理，調整為500×500大小。3yolov3算法3.1軟件卷積層resi卻-t第二階段故障檢測以YOLOv3算法為主體，其特征提取網絡由Darknet-53修改所得，網絡結構如圖5所示。相比二代算法采用的Darknet-19，網絡深度大大加深，網絡的表達能力加強，但這也產生了梯度消失、梯度爆炸和性能退化的問題，為解決以上問題，Darknet-53采用了以下措施：(1）采用批量歸一化（BatchNormalization,BN）和激活函數（LeakyReLU）。(2）采用步長為2的卷積代替池化層進行降采樣操作。(3）借鑒殘差網絡ResNet的思想，使用5組重復的殘差單元（Residual），在卷積層之間以跳躍連接的形式，將單元的輸入與輸出相加，構造一個恒等映射，防止信息丟失。通過以上方式，解決了梯度消失、梯度爆炸和性能退化的問題。梯度BN還可以使訓練更加穩定和加快網絡收斂速度，其計算公式為式中，x為BN輸入；y為輸出；γ和β為可學習參數。為了有效提高網絡的表達能力，該算法采用非飽和的LeakyReLU激活函數，當輸入為負時，給其一個很小的坡度a3.2模型收斂效果損失函數作為判定深度神經網絡預測效果的重要參數之一，很大程度上決定模型的收斂效果，損失收斂越快、數值越小說明模型性能越好。YOLOv3采用誤差的二次方和作為損失函數，整合了目標定位偏移量損失、目標置信度損失及目標分類損失，其計算公式為式中，13.3特征圖預處理在一階段得到去除背景的分割絕緣子圖像的基礎上，二階段YOLOv3算法的故障檢測網絡結構如圖6所示，輸入RGB三通道圖像，經Darknet-53特征提取網絡，采用步長為2的卷積核進行5次下采樣，分別在3～5次下采樣后輸出尺寸為52×52、26×26、13×13的特征圖。為了充分利用特征信息，對于大小為13×13、26×26的特征圖，執行2倍上采樣，并借鑒特征金字塔的思想進行不同尺寸特征圖的張量拼接，最終在三個尺度的特征圖上獨立執行回歸預測目標類別與形狀。在檢測階段，對于輸入的航拍絕緣子圖像，預測一個三維張量，包括目標、目標邊界框和目標類別。YOLO層將特征圖劃分成S×S的網格（不同尺度的特征圖，S值不同），為每個網格預測三個不同的邊界框，并且張量大小可以表示為S×S×[3×(5+C)],5包含目標框的坐標信息（x,y,w,h）和置信度，C表示預測類別數，所以對于每個維度輸出結果為S×S×[3×(5+2)]，最終通過閾值設定及非極大值抑制，輸出最高置信度的邊界框。3.4基于聚類分析的loss值對比YOLO二代算法開始引入了FasterR-CNN中所使用的錨點框（anchorboxes）的思想，它是一組固定尺寸的候選框，往往根據訓練集目標框尺寸事先設定。YOLOv3的默認錨點框參數是根據COCO數據集聚類得到的9個固定參數，不一定適合特定場景下的數據集。本文根據航拍絕緣子數據自身特點，設計出更適合絕緣子數據的錨點框參數，分別使用K-means和K-means++聚類算法對數據進行聚類分析，計算樣本框與錨點框之間的平均交并比（avgIOU），以聚類值與樣本真實值之間的平均損失為目標函數，目標函數值越小，表明結果越準確，其目標函數D為式中，B為樣本目標真實框；P為聚類中心；n為樣本總數；k為聚類中心個數；n由圖7可以看出，隨著K值的增加，兩種聚類算法損失函數Loss值逐漸減小，且K-means++聚類算法相比K-means算法，Loss值更小。然而，錨點框數量的增加會大大降低網絡計算速度，增加計算成本，且當K=9時曲線趨于平穩，故選取K=9時的聚類結果優化網絡的錨點框參數。根據K-means++算法得到的9個錨點框參數，得到航拍絕緣子故障數據目標真實框和錨點框參數的分布如圖8所示。圖8中橫縱坐標分別表示寬度和高度，4結果與分析4.1g/lv/g/3g白砂糖/g/ti/g/ls-3g/3g控制器實驗平臺的硬件配備Inter(R)E5-2620V4核心處理器，雙NvidiaGeForceGTX1080Ti顯卡，32G內存。在Ubuntu16.04操作系統、Darknet深度學習框架下進行實驗。4.2fcn-32s方法的對比為驗證跳躍結構對分割性能的提升效果，本文分別以FCN-32s、FCN-16s、FCN-8s模型對絕緣子數據集進行訓練，得到針對絕緣子區域的分割模型，以像素準確率（PA）、平均像素準確率（MPA）、平均交并比（MIoU）和頻權交并比（FWIoU），作為評價指標，評價模型性能，結果見表2。從表2可以看出，相比于FCN-32s方法，由于FCN-16s方法融合了淺層P4卷積特征，各項指標均有顯著提高；相比于FCN-16s方法，本文使用的FCN-8s方法進一步融合了淺層P3卷積特征，其像素準確率、平均交并比、頻權交并比分別為99.91%、96.73%、98.26%，三項參數均高于FCN-32s和FCN-16s方法，平均像素準確率略微下降，說明本文方法能有效提高分割性能。各指標計算公式為式中，p4.3多次訓練時定位使用K-means++算法聚類絕緣子故障數據所得參數訓練YOLOv3網絡，網絡的默認最大迭代次數為50200次，學習率決定著權值更新的速度，過大會導致振蕩，過小會使下降速度過慢，所以深度學習一般根據訓練迭代次數設置動態變化的學習率，通常設置較大的初始學習率，使模型前期快速學習，到達一定迭代次數后，模型無法進一步收斂，此時應該降低學習率。本文在多次訓練過程中，通過觀察平均交并比的變化趨勢，發現訓練到20000次附近時，曲線無法繼續收斂，所以分別在迭代到20000次和25000次時，設置衰減學習率，進一步擬合。最終，平均交并比函數的變化趨勢如圖9所示，可以看出，隨著迭代次數的增加，平均交并比逐漸增大，在30000次迭代之后，比值在0.85處趨于穩定，達到理想訓練效果。4.4算法性能對比為驗證本文方法的有效性，分別從定性和定量兩個方面對YOLOv3、F-YOLOv3和F-YOLOv3-K算法進行性能對比，將協同FCN和YOLOv3算法的模型命名為F-YOLOv3，同時結合K-means++算法優化錨點框參數的協同FCN和YOLOv3算法模型命名為F-YOLOv3-K。4.4.1f-yolov3算法在地方的應用在實驗1中，分別用YOLOv3、F-YOLOv3和F-YOLOv3-K算法對測試/實際檢測數據集中的兩類目標進行測試，分別記錄檢測的漏檢與誤檢情況，以及對兩類目標的檢測置信度，絕緣子故障在4張圖例的三種不同方法下的檢測效果及其局部區域放大圖如圖10所示。圖10中紫色矩形標簽I-1表示均壓環脫落故障，綠色矩形標簽I-2表示玻璃絕緣子爆缸故障，紅色菱形框表示漏檢處，黃色圓形框表示誤檢處，藍色線條表示正確檢出。由圖10可以看出，檢測位置分別以紫色與綠色框標記出I-1和I-2故障目標，并顯示置信度，置信度結果對比見表3，表中，0表示漏檢，×表示誤檢。由表3可以看出，原始YOLOv3算法在圖1、圖2中出現漏檢情況，在圖3、圖4中出現誤檢情況。F-YOLOv3方法解決了圖例中的漏檢與誤檢情況，并大幅提升了檢測置信度，本文最終提出的F-YOLOv3-K方法進一步提升了檢測置信度。通過大量數據對比驗證，該方法有效解決了漏檢與誤檢問題，且檢測的置信度有顯著提升，為進一步驗證所提方法的有效性，本文在定量方面補充了性能對比實驗。4.4.2yolov3-ti三維算法的比較為驗證協同深度學習方法對單一模型檢測性能的提升效果，本文使用FCN算法分別協同YOLOv3和YOLOv3的小型網絡YOLOv3-tiny算法，對檢測數據集進行測試。為了具有可比性，實驗均采用相同的處理策略，使用平均交并比（IoU）、單類故障精度（AP）、平均精度（MAP）、召回率（Recall）作為評價指標，評價模型性能，結果見表4。YOLOv3-tiny為YOLOv3算法的小型網絡，協同FCN和YOLOv3-tiny算法的模型命名為F-YOLOv3-t，協同FCN和YOLOv3算法的模型命名為F-YOLOv3，同時結合K-means++算法優化錨點框參數的協同FCN和YOLOv3算法模型命名為F-YOLOv3-K。從表4可以看出，相比YOLOv3的小型網絡YOLOv3-tiny算法，由于YOLOv3算法特征提取網絡更深，特征更加豐富，所以其檢測精度及平均交并比均有所提高。與原始單一的YOLOv3-tiny3及YOLOv3模型相比，F-YOLOv3-t和F-YOLOv3采用協同FCN的方法，顯著提升了模型的各項指標，說明該方法適用于絕緣子故障檢測。F-YOLOv3-t比YOLOv3-tiny模型的MAP值