本文來自品途商業(yè)評論，文/曾響鈴。
草莽紛爭之后，數(shù)字內(nèi)容平臺如何走遠(yuǎn)？
很可能像被「十二道金牌」追回的岳飛，扼腕長嘆的那樣——十年之力，廢于一旦。
岳飛的十年勝利，毀于奸臣之手，可恨可嘆，無可避免。
但在互聯(lián)網(wǎng)合規(guī)化大潮下，互聯(lián)網(wǎng)內(nèi)容平臺的「十年勝利」，如果毀于「內(nèi)容風(fēng)控不力」，不僅可惜，更是可悲。因?yàn)?，這本可以避免。
8月3日，國家計(jì)算機(jī)病毒應(yīng)急處理中心（以下簡稱「應(yīng)急中心」）新通報(bào)一批違規(guī)移動(dòng)APP名單，包括《新浪金融》《覓上》《海豚家》等在內(nèi)的17款A(yù)PP「榜上有名」。
據(jù)了解，這離應(yīng)急中心通報(bào)上一批違規(guī)APP尚不足月，而這已經(jīng)是2022年以來的第12次通報(bào)。
在互聯(lián)網(wǎng)內(nèi)容合規(guī)化大潮下，守護(hù)網(wǎng)絡(luò)內(nèi)容安全的這「十二道金牌」，告訴我們，在當(dāng)下數(shù)字內(nèi)容風(fēng)控的重要性和緊迫性，毋庸多言。
流水的數(shù)字內(nèi)容
數(shù)字內(nèi)容如「流水」，有幾大特征。
首先，數(shù)字內(nèi)容如流水般，沒有常形，很難捉摸，導(dǎo)致數(shù)字內(nèi)容風(fēng)控難度隨之變大。
從最開始的圖文，到后面的語音、視頻內(nèi)容，可以看到數(shù)字內(nèi)容這種「因器變而形變、因物異而適其異」的特性。
而隨著技術(shù)發(fā)展，黑灰產(chǎn)數(shù)字內(nèi)容，從生產(chǎn)到偽造的手段也越來越高——從零幾年的發(fā)帖機(jī)，到現(xiàn)在的智能語音生成、智能圖像偽造，甚至視頻換臉等，增加了內(nèi)容風(fēng)控難度和成本。
其次，相較傳統(tǒng)印刷內(nèi)容，數(shù)字內(nèi)容生產(chǎn)規(guī)模大、增速快，且能夠在互聯(lián)網(wǎng)快速流動(dòng)、擴(kuò)散和滲透，控制不當(dāng)，「流水」就會變成「洪水」。這也就意味著，數(shù)字內(nèi)容風(fēng)控從人力密集型（人工審核）進(jìn)入到計(jì)算密集型。
數(shù)據(jù)顯示，人類進(jìn)入互聯(lián)網(wǎng)前的5000年，文字記載內(nèi)容總共為5艾（1艾字節(jié)=1，152，921，504，606，846，976字節(jié)）。但僅2006年，全球全年產(chǎn)生的數(shù)字內(nèi)容，就超過280艾。
近年來，在「高清、三維、視頻化、用戶創(chuàng)造內(nèi)容（UGC）」的驅(qū)動(dòng)下，數(shù)字內(nèi)容進(jìn)一步爆發(fā)，宛如「洪水」。2018年到2020年，中國數(shù)字內(nèi)容產(chǎn)業(yè)年復(fù)合增長率高達(dá)9.33%，超過同期中國生產(chǎn)總值。數(shù)字內(nèi)容審核，已非單憑人力就能勝任的時(shí)代。
最后，技術(shù)與產(chǎn)業(yè)發(fā)展，助推數(shù)字內(nèi)容空前豐富，讓數(shù)字內(nèi)容成為數(shù)字經(jīng)濟(jì)的「富礦」，同時(shí)也成為黑灰產(chǎn)眼中的「肥肉」，數(shù)字內(nèi)容風(fēng)控呈現(xiàn)出24小時(shí)不間斷的「長期強(qiáng)對抗」態(tài)勢。
數(shù)字內(nèi)容的時(shí)代洪流，沖刷出一條條大江、大河，催生出諸如抖音、快手等互聯(lián)網(wǎng)巨頭企業(yè)。同時(shí)，也在不斷沖刷網(wǎng)絡(luò)內(nèi)容安全的河堤，且平臺勢能越強(qiáng)，帶來的內(nèi)容安全隱患也就越大。數(shù)字內(nèi)容平臺，如果成了被利用的「間接作惡工具」，將給企業(yè)正常運(yùn)營帶來麻煩和損失。
今年4月-7月，在為期三個(gè)月的「清朗·整治網(wǎng)絡(luò)直播、短視頻領(lǐng)域亂象」中，106個(gè)直播短視頻平臺下架關(guān)停，快手、嗶哩嗶哩、虎牙等被約談、罰款，抖音、淘寶、微信視頻號等16家重點(diǎn)直播、短視頻平臺上，56.3萬個(gè)違規(guī)直播間被處置，235.1萬條違規(guī)短視頻被清理，12萬個(gè)違規(guī)用戶賬號被關(guān)閉......
來自新一代數(shù)字內(nèi)容風(fēng)控服務(wù)商網(wǎng)易易盾的數(shù)據(jù)顯示，成立六年來，網(wǎng)易易盾終端覆蓋量超25億，累計(jì)檢測數(shù)據(jù)量超2萬億，處理移動(dòng)安全風(fēng)險(xiǎn)超1400億，抵御外掛超威脅700億......
可見，數(shù)字內(nèi)容風(fēng)控依然任重道遠(yuǎn)。而隨著內(nèi)容平臺對數(shù)字內(nèi)容風(fēng)控逐漸重視，相關(guān)需求正在不斷上升。數(shù)字內(nèi)容平臺發(fā)展，如何做到內(nèi)容「不失控」，已事關(guān)企業(yè)生死存亡。
鐵打的內(nèi)容風(fēng)控
不管是將一匙酒倒進(jìn)一桶污水，還是把一匙污水倒進(jìn)一桶酒里，得到的最終都是一桶污水，這就是管理學(xué)上著名的「酒與污水定律」。
可見，污水和酒的比例不決定這桶東西的性質(zhì)，起作用的是那一勺污水，有它在，再多的酒都會成為污水。
這跟內(nèi)容風(fēng)控一樣。對數(shù)字內(nèi)容平臺來說，即使它有一萬條優(yōu)質(zhì)內(nèi)容，但只要有違規(guī)內(nèi)容，它就可能面臨處罰、下架乃至關(guān)停的風(fēng)險(xiǎn)。
國家應(yīng)急中心2022年1-7月的12次通報(bào)已經(jīng)敲鐘——內(nèi)容風(fēng)控將會越來越重要，內(nèi)容平臺因數(shù)字內(nèi)容獲益，理應(yīng)承擔(dān)更多的內(nèi)容治理責(zé)任，背后邏輯很好理解。
一方面，就企業(yè)來說，企業(yè)存在的最大價(jià)值，是解決社會問題，而非制造社會問題。數(shù)字內(nèi)容平臺，過去幾年的發(fā)展解決了很多社會問題，這為其帶來了商家。
不過，一些平臺也存在大量「色、丑、怪、假、俗、賭」等違規(guī)內(nèi)容，則給其帶來危機(jī)。這些內(nèi)容不但對平臺發(fā)展無益，會造成用戶體驗(yàn)下降、用戶流失、平臺聲譽(yù)受損，同時(shí)也會嚴(yán)重威脅平臺用戶的切身利益，甚至引發(fā)社會問題，影響企業(yè)發(fā)展。
另一方面，對各大行業(yè)來說，隨著數(shù)字化轉(zhuǎn)型深化，數(shù)字經(jīng)濟(jì)如火如荼，數(shù)字內(nèi)容和數(shù)字內(nèi)容風(fēng)控未來將成為企業(yè)標(biāo)配——數(shù)字內(nèi)容如潮，一波接一波，但不管后續(xù)形式、平臺如何發(fā)展與進(jìn)化，內(nèi)容風(fēng)控將是企業(yè)遠(yuǎn)航的「壓艙石」，也是內(nèi)容平臺「鐵打的營盤」。
但數(shù)字內(nèi)容風(fēng)控，并非一蹴而就，而是一場實(shí)時(shí)強(qiáng)對抗、長鏈條立體式的長期戰(zhàn)，需要大量的人力和技術(shù)投入，任何一環(huán)掉鏈子都可能導(dǎo)致前功盡棄。
簡單來講，數(shù)字內(nèi)容風(fēng)控涵蓋用戶使用全生命周期，包括使用前的用戶賬戶注冊（避免垃圾注冊）、使用中內(nèi)容智能識別與安全檢測（避免使用中體驗(yàn)和用戶權(quán)益受影響），比如社交反欺詐、游戲反外掛以及營銷反作弊等，以及抵擋無時(shí)無刻可能存在，來自網(wǎng)絡(luò)各個(gè)角度對應(yīng)用的攻擊等，這從第三方安全風(fēng)控公司網(wǎng)易易盾提供的數(shù)字內(nèi)容安全解決方案中，也能感受到數(shù)字內(nèi)容風(fēng)控需要「面面俱到」。
（△網(wǎng)易易盾數(shù)字內(nèi)容安全解決方案）
這就意味著，不管從成本還是技術(shù)上來看，僅靠單一內(nèi)容平臺很難內(nèi)部消化。因此第三方安全廠商、安全風(fēng)控公司正在成為企業(yè)保駕護(hù)航的新剛需。這從網(wǎng)易易盾服務(wù)的「朋友圈」越來越大也能得到佐證。目前，網(wǎng)易易盾已服務(wù)數(shù)千家行業(yè)頭部企業(yè)，其中不乏人民網(wǎng)、外交部、中信證券、小米、vivo、愛奇藝、知乎、B站、TapTap、中手游等知名企事業(yè)單位，服務(wù)間接覆蓋99%以上網(wǎng)民。
數(shù)字內(nèi)容風(fēng)控，也早在2018年就成為市場空間超百億的行業(yè)。安全行業(yè)體系標(biāo)準(zhǔn)建設(shè)也在持續(xù)推進(jìn)，安全策略運(yùn)營更是成為新職業(yè)——由網(wǎng)易易盾參與起草的《網(wǎng)絡(luò)與信息安全管理員國家職業(yè)技能標(biāo)準(zhǔn)》已于2020年正式發(fā)布，這也為行業(yè)培養(yǎng)安全策略運(yùn)營人員提供了支撐。
內(nèi)容平臺如何「風(fēng)控」免「封控」？
顯而易見，互聯(lián)網(wǎng)內(nèi)容平臺正在進(jìn)入「少犯錯(cuò)即成功」的時(shí)代，內(nèi)容平臺如何風(fēng)控避免封控，需要認(rèn)識到數(shù)字內(nèi)容風(fēng)控的幾大特點(diǎn)。
第一，門檻看似低，其實(shí)非常高。技術(shù)需要持續(xù)迭代，場景非標(biāo)性強(qiáng)，需要大數(shù)據(jù)支撐。
基于上述特征，數(shù)字內(nèi)容風(fēng)控也有較強(qiáng)的規(guī)模效應(yīng)，未來主流發(fā)展趨勢，只能是大平臺化作戰(zhàn)，而非企業(yè)獨(dú)自為戰(zhàn)。即數(shù)字風(fēng)控服務(wù)商需要「見多識廣」。
就像飛書誕生于抖音集團(tuán)（原字節(jié)跳動(dòng)）內(nèi)部OKR應(yīng)用；釘釘誕生于阿里內(nèi)部協(xié)作；網(wǎng)易易盾的誕生，也離不開網(wǎng)易多元互聯(lián)網(wǎng)業(yè)務(wù)的「喂養(yǎng)」。
網(wǎng)易從提供博客、郵件類產(chǎn)品開始即重視內(nèi)容風(fēng)控，且其業(yè)務(wù)所涉的游戲、電商、社交、娛樂等都需要內(nèi)容風(fēng)控。這些內(nèi)部需求和實(shí)踐，讓網(wǎng)易擁有20多年數(shù)據(jù)積累，也讓網(wǎng)易易盾在內(nèi)容風(fēng)控上「見多識廣」。
這些，又為網(wǎng)易易盾算法團(tuán)隊(duì)沉淀出一系列高效率的場景化數(shù)據(jù)精煉流程和算法訓(xùn)練方案。構(gòu)建了數(shù)百種細(xì)分類識別的模型，最高99.99%的分類模型精準(zhǔn)度，持續(xù)獲得包括浙江省科學(xué)技術(shù)進(jìn)步獎(jiǎng)一等獎(jiǎng)在內(nèi)的各類官方權(quán)威認(rèn)可。
第二，要么不出事，要么出大事，試錯(cuò)成本高，穩(wěn)定性高于一切。
數(shù)字內(nèi)容風(fēng)控事故只有0和1的區(qū)別，企業(yè)不能存在僥幸心理，也不能充當(dāng)「小白鼠」，因?yàn)橐淮问鹿?，可能就會打斷企業(yè)發(fā)展的勢頭，甚至將多年積累毀于一旦。
2019年7月底，處于快速增長期的小紅書突然「被下架」，整改后時(shí)隔70多天方才重新上架，元?dú)獯髠?mdash;—2019年下架前的6月，小紅書月活約為9300萬，到9月底月活用戶降為7288萬。這樣的例子很多，此外還有像抖音集團(tuán)（原字節(jié)跳動(dòng)）旗下因內(nèi)容被關(guān)停的「內(nèi)涵段子」們也不少。
因此，選擇一個(gè)被驗(yàn)證過的內(nèi)容風(fēng)控服務(wù)商很重要。被網(wǎng)易內(nèi)部從郵件、博客到社交娛樂、游戲、購物驗(yàn)證過的網(wǎng)易易盾，被上千行業(yè)頭部企業(yè)「拿去就用」也就不奇怪了，這跟釘釘和飛書被別的企業(yè)「拿去用」是一樣的道理。
第三，數(shù)字內(nèi)容風(fēng)控是一場持久戰(zhàn)，貫穿企業(yè)全生命周期，需要全方位、持續(xù)改善，包括人工審核、機(jī)器識別和安全策略三方面，一個(gè)環(huán)節(jié)都不能少。
目前第三方內(nèi)容風(fēng)控服務(wù)商標(biāo)配是「機(jī)器識別+人工審核」。其中「機(jī)器識別」承擔(dān)「將識別能力標(biāo)準(zhǔn)化」的部分，即基于深度學(xué)習(xí)及大規(guī)模樣本訓(xùn)練，對內(nèi)容進(jìn)行分析，分辨其中可能存在的色情、低俗、廣告、涉政、暴恐、謾罵、灌水等可能性的內(nèi)容，進(jìn)行標(biāo)紅和分類預(yù)處理，最后交由「人工審核」來負(fù)責(zé)定性的部分。
還有少數(shù)服務(wù)商提供的是「機(jī)器識別+人工審核+安全策略」服務(wù)，業(yè)內(nèi)較早做的是網(wǎng)易易盾。其提供的「安全策略」可以類比為「機(jī)器識別」與「人工審核」之間的橋梁，既幫人工團(tuán)隊(duì)將其處理的特征和知識，抽象出來反哺給機(jī)器，讓機(jī)器識別更"聰明"；又根據(jù)通用問題，開發(fā)一些策略工具持續(xù)篩選機(jī)器識別后的數(shù)據(jù)，使其結(jié)果輸出更精準(zhǔn)。
由于做得比較早（2012年內(nèi)部開發(fā)，2016年開始對外服務(wù)，在2019年網(wǎng)易易盾該方案已成為行業(yè)通用解決方案），相比其它企業(yè)，網(wǎng)易易盾是少數(shù)擁有「策略運(yùn)營團(tuán)隊(duì)」的內(nèi)容風(fēng)控服務(wù)商，相比市場上普遍的「機(jī)器+人工」模式，網(wǎng)易易盾補(bǔ)足了「運(yùn)營」這個(gè)重要環(huán)節(jié)，成為能提供一站式全生命周期的專業(yè)數(shù)字內(nèi)容風(fēng)控服務(wù)的「少數(shù)派」。
總而言之，數(shù)字內(nèi)容風(fēng)控，就像內(nèi)容平臺參與的一場特殊的足球賽，你可以自己不得分，但你不能失守，被對方破門。否則不管是1：0還是100：0，結(jié)局都是輸！而平臺從內(nèi)容風(fēng)控到「被封控」，很大程度上取決于一個(gè)「守門員」。
*本文圖片均來源于網(wǎng)絡(luò)
