3131 1本文件規(guī)定了互聯(lián)網(wǎng)信息內(nèi)容安全審核能力的等級劃分與要求、技術(shù)能力、管理能力等要求。本文件適用于上海地區(qū)互聯(lián)網(wǎng)信息服務(wù)提供者開展信息內(nèi)容安全審核能力建設(shè)，本市監(jiān)管部門、第三方機(jī)構(gòu)進(jìn)行監(jiān)督管理和評估時可參考使用。2規(guī)范性引用文件下列文件中的內(nèi)容通過文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本(包括所有的修改單)適用于本文件。GB/T40645—2021互聯(lián)網(wǎng)信息服務(wù)安全通用要求3術(shù)語和定義GB/T40645—2021界定的術(shù)語和定義適用于本文件。基于信息發(fā)布、交互、傳播等相關(guān)技術(shù)和功能屬性，通過互聯(lián)網(wǎng)面向社會公眾提供的信息服務(wù)。[來源：GB/T40645—2021,3.1]信息源informationsource互聯(lián)網(wǎng)信息服務(wù)中信息的提供者及信息內(nèi)容。[來源：GB/T40645—20使用互聯(lián)網(wǎng)信息服務(wù)的個人或組織。[來源：GB/T40645—202互聯(lián)網(wǎng)信息服務(wù)提供者internetinformationserviceprovider為用戶提供互聯(lián)網(wǎng)信息服務(wù)的組織或機(jī)構(gòu)。[來源：GB/T40645—202利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖片、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。2互聯(lián)網(wǎng)信息內(nèi)容安全審核能力internetinformationcontentsecuritycensorcapabilities互聯(lián)網(wǎng)信息服務(wù)提供者檢測、過濾、溯源和處置違法和不良信息的能力。計(jì)算機(jī)或系統(tǒng)檢出并識別文本、圖片、音頻和視頻信息的能力。違反法律法規(guī)和影響網(wǎng)絡(luò)生態(tài)健康的信息。對于給定的數(shù)據(jù)集，違法和不良樣本判斷正確的數(shù)量占違法和不良樣本數(shù)量的比率。對于給定的數(shù)據(jù)集，違法和不良樣本判斷正確的數(shù)量占判斷為違法和不良樣本數(shù)量的比率。4等級劃分與要求本文件將互聯(lián)網(wǎng)信息服務(wù)提供者的信息內(nèi)容安全審核能力劃分為兩個等級，分別是基本級和增強(qiáng)級。互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)根據(jù)其企業(yè)規(guī)模、業(yè)務(wù)范圍和用戶規(guī)模等情況確定信息內(nèi)容安全審核能力等級，見表1。表1互聯(lián)網(wǎng)信息內(nèi)容安全審核能力等級劃分審核能力等級√一中型企業(yè)-√一√業(yè)務(wù)范圍√圖片√一-√100萬及以下√-100萬以上-√互聯(lián)網(wǎng)信息服務(wù)提供者確定審核能力等級后，應(yīng)按照附錄B中的要求進(jìn)行信息內(nèi)容安全審核能力建設(shè)。5技術(shù)能力5.1違法和不良信息檢測能力45.2.1.2應(yīng)具備對信息源生成內(nèi)容進(jìn)5.2.2.1應(yīng)具備對技術(shù)檢測命中疑似違法和不良信息的內(nèi)容進(jìn)行風(fēng)險提5.2.2.2應(yīng)具備對技術(shù)檢測命中疑似違法和不良信息的內(nèi)容進(jìn)行風(fēng)險量化的能力，并對風(fēng)險值較高的5.3.1應(yīng)具備對互聯(lián)網(wǎng)信息服務(wù)用戶的賬號信息、操作時間、操作內(nèi)容、操作結(jié)果等進(jìn)行日志記錄的5.3.2應(yīng)具備對信息源的相關(guān)信息進(jìn)行日志記錄的能力，如信息的采集來源、發(fā)布時間、發(fā)布渠道、5.3.3日志留存時間不少于6個月。6.2.1.1應(yīng)指定至少1名負(fù)責(zé)人，負(fù)責(zé)組織開展相關(guān)信息內(nèi)容審核工作，機(jī)構(gòu)應(yīng)為信息內(nèi)容審核工作6.2.1.3信息內(nèi)容審核人員數(shù)量與6.2.2.1對信息內(nèi)容審核人員應(yīng)開展崗前背景6.2.2.2對信息內(nèi)容審核人員進(jìn)行管理，應(yīng)制定從業(yè)人6.2.2.3對參與信息內(nèi)容審核的相關(guān)人員應(yīng)建立培訓(xùn)制度，制定年度培訓(xùn)計(jì)劃，培訓(xùn)內(nèi)容應(yīng)包括信息6.2.2.4信息內(nèi)容審核的從業(yè)人員每年應(yīng)至少參加1次業(yè)務(wù)培訓(xùn)。56.2.2.5根據(jù)不同內(nèi)容審核崗位的從業(yè)人員，應(yīng)定期進(jìn)行崗位培訓(xùn)和考核，內(nèi)容包括但不限于審核標(biāo)6.3.1.2信息內(nèi)容審核標(biāo)準(zhǔn)化手冊應(yīng)包括審核程序、審核標(biāo)準(zhǔn)、審核時限、信息源和用戶賬號的分類等。6.3.2.2應(yīng)具備審核策略，包括：A.1中所述信息的分級審核、審核技術(shù)檢測能力(文本、圖片、音頻、視頻)、審核覆蓋語種(漢語、英語、方言、小語種)及審核方式(機(jī)器抽審、機(jī)器全審、人工抽審、人工全審)等。6.3.2.3針對首屏推送、彈窗信息、熱榜話題信息、緊急特殊類信息等，6.3.3.2技術(shù)檢測命中疑似A.1中所述的信息，應(yīng)進(jìn)行二輪審核。6.3.3.3發(fā)生重大事件時，應(yīng)對技術(shù)檢測命中疑似A.1中所述的信息進(jìn)行三輪審核。技術(shù)檢測命中疑似違法和不良信息的內(nèi)容宜在30分鐘內(nèi)由審核人員審核完畢。6.4.1.2宜從信息源可信度、信息內(nèi)容質(zhì)量等方面制定相關(guān)分類標(biāo)準(zhǔn)。6.4.2.2宜從賬號IP、賬號實(shí)名情況、影響力、活躍度等方