一個(gè)用戶在趣頭條App上一下子邀請(qǐng)來(lái)了100人，這個(gè)用戶拿到了比較豐厚的獎(jiǎng)勵(lì)，但被邀請(qǐng)的100人在留存和活躍上，表現(xiàn)極差。這個(gè)舉動(dòng)引起了趣頭條反作弊部門的注意，經(jīng)平臺(tái)核實(shí)、判定，這批用戶存有問題，被處理掉了。這件事發(fā)生在2017年。
通常，趣頭條是這樣判定一個(gè)賬號(hào)是否為羊毛黨賬號(hào)的。
他們有自主研發(fā)的設(shè)備指紋、特征安全、渠道歸因等組件，以此來(lái)判斷用戶的設(shè)備是否正常、用戶的行為數(shù)據(jù)是否正確、渠道的拉新是否正常。
在不同階段有不同的處理方式，“如果確定它肯定是一個(gè)作弊用戶，其實(shí)我們會(huì)直接把它攔掉。”趣頭條技術(shù)副總裁姜杰說(shuō)，如果有一些用戶疑似在作弊，它們最開始不會(huì)處理，只會(huì)觀察，去觀察它們的后續(xù)行為是否異常。
反作弊部門隱秘，但又十分重要
在趣頭條，反作弊部門隱秘，但又十分重要。這個(gè)部門多與用戶增長(zhǎng)部門打交道，它承擔(dān)了用戶質(zhì)量以及渠道健康度監(jiān)測(cè)考量的重要職責(zé)。
姜杰在接受刺猬公社獨(dú)家訪談時(shí)說(shuō)，這個(gè)部門的價(jià)值在于，肅清作弊或低質(zhì)流量，對(duì)于用戶來(lái)說(shuō)，為3億用戶提供更加健康公正的閱讀環(huán)境；對(duì)于公司而言，承擔(dān)著為公司節(jié)省不必要成本浪費(fèi)的職責(zé)。
趣頭條App在2016年6月上線，很快，有些專門鉆內(nèi)容平臺(tái)空子的羊毛黨盯上了趣頭條，在快速的用戶增長(zhǎng)中，趣頭條技術(shù)部門意識(shí)到了業(yè)務(wù)形態(tài)可能引起的作弊風(fēng)險(xiǎn)，在2017年年初，開始成立并研發(fā)反作弊相關(guān)的系統(tǒng)。姜杰透露，該部門目前主要從作弊或可疑用戶、渠道質(zhì)量?jī)蓚€(gè)領(lǐng)域進(jìn)行監(jiān)控和處理。
在建立初期，會(huì)遭受比較多外部攻擊。比如利用iOS端一鍵復(fù)原新機(jī)的手段，Android端會(huì)有多開、腳本自動(dòng)化控制的手段。
2018年8月份，趣頭條遭遇一波來(lái)自iOS端的攻擊。當(dāng)時(shí)，趣頭條正在進(jìn)行新用戶一元即時(shí)提現(xiàn)的活動(dòng)，也就是說(shuō)，一個(gè)新注冊(cè)用戶，可以立馬提現(xiàn)一元錢。
在短期內(nèi)，iOS新注冊(cè)用戶數(shù)量陡然變多，其中可能存在蹊蹺，團(tuán)隊(duì)立馬檢測(cè)了不同時(shí)段新IOS注冊(cè)用戶的特征，發(fā)現(xiàn)一批用戶進(jìn)入趣頭條后狀態(tài)異常。
經(jīng)過(guò)一番分析，反作弊部門在用戶手機(jī)注冊(cè)端找到了原因，那些用戶都是用iOS系統(tǒng)注冊(cè)的趣頭條賬號(hào)。iOS有一鍵還原系統(tǒng)的功能，還原系統(tǒng)后，所有原來(lái)的相關(guān)特征信息都會(huì)被抹掉。
抹掉之后，對(duì)趣頭條的后臺(tái)來(lái)說(shuō)，一旦有人再次使用相同iOS設(shè)備注冊(cè)新的趣頭條賬號(hào)，后臺(tái)會(huì)認(rèn)為那是一臺(tái)新的iOS設(shè)備。這就給羊毛黨提供了刷量的空間，羊毛黨會(huì)使用大量虛擬手機(jī)號(hào)注冊(cè)趣頭條賬號(hào)，從中拿到補(bǔ)貼。
“當(dāng)時(shí)的監(jiān)控已經(jīng)基本完善，但SDK，尤其是IOS的SDK還在不斷加固中，當(dāng)時(shí)能采取的唯一辦法，是立即先停止線上的1元提現(xiàn)功能，然后反作弊團(tuán)隊(duì)通宵達(dá)旦，更新了SDK和服務(wù)，完成之后，重新上的線。”趣頭條方面告訴刺猬公社，趣頭條的業(yè)務(wù)特點(diǎn)，決定了會(huì)有灰黑產(chǎn)業(yè)鏈通過(guò)業(yè)務(wù)或系統(tǒng)的一些漏洞來(lái)牟取非法利益。加上渠道市場(chǎng)也一直存在假量、低質(zhì)流量的問題，這就讓趣頭條身處在了一個(gè)比較復(fù)雜的市場(chǎng)環(huán)境中。
自趣頭條App上線以來(lái)，就一直被羊毛黨盯著，羊毛黨行為在趣頭條爆發(fā)是2018年上半年。那時(shí)，趣頭條處于強(qiáng)拉新階段，據(jù)趣頭條IPO時(shí)公布的數(shù)據(jù)顯示，共花了8.36億。有一些激勵(lì)措施比較大的梯度好友邀請(qǐng)模式，你邀請(qǐng)的人越多，獲得的收益越大，比如邀請(qǐng)5個(gè)好友，可以獲得20元，平均一個(gè)4元；邀請(qǐng)10個(gè)好友，可以獲得50元，平均一個(gè)5元。
同一時(shí)期，字節(jié)跳動(dòng)也花了大價(jià)錢做拉新活動(dòng)。2018年3月22日，“石家莊網(wǎng)警巡查執(zhí)法”發(fā)布通告，今日頭條風(fēng)控部門向警方求助，旗下的火山視頻App被人惡意批量注冊(cè)虛假賬號(hào)、利用技術(shù)手段批量盜用并上傳視頻，進(jìn)而騙取大額補(bǔ)助。
警方通過(guò)資金流、信息流、人員流等多維度分析，發(fā)現(xiàn)了一個(gè)以李某為核心的詐騙團(tuán)伙，該犯罪團(tuán)伙購(gòu)買、制作相關(guān)軟件，利用多種技術(shù)手段騙取返現(xiàn)補(bǔ)助。
3月13日，河北警方對(duì)該犯罪團(tuán)伙進(jìn)行收網(wǎng)抓捕，團(tuán)伙頭目李某以及犯罪骨干成員15名落網(wǎng)。警方查明，在2017年底到落網(wǎng)時(shí)為止，該團(tuán)伙控制了數(shù)萬(wàn)個(gè)頭條賬號(hào)，每天上傳各種視頻千余條，兩個(gè)月騙取補(bǔ)助數(shù)十萬(wàn)元。
該團(tuán)伙還通過(guò)直播平臺(tái)、錄制視頻、微信群等方式，在某電商平臺(tái)售賣做號(hào)系統(tǒng)軟件。這些軟件可以模擬手機(jī)系統(tǒng)、修改IP地址、批量注冊(cè)頭條賬號(hào)等，每套軟件售價(jià)數(shù)萬(wàn)元，做號(hào)團(tuán)伙以此來(lái)獲取暴利。
黑產(chǎn)是行業(yè)的事，如何打擊黑產(chǎn)就是平臺(tái)能力了
在一個(gè)叫“星援”的App上登錄微博賬號(hào)，把要轉(zhuǎn)發(fā)的微博鏈接粘貼上去。接下來(lái)，你可以在“星援”App后臺(tái)設(shè)置轉(zhuǎn)發(fā)該條微博的隨機(jī)表情，間隔多少時(shí)間轉(zhuǎn)發(fā)一次，一個(gè)賬號(hào)轉(zhuǎn)發(fā)多少次。
有人建議，20秒轉(zhuǎn)發(fā)一次最合適，要在后臺(tái)設(shè)置里勾選隨機(jī)表情，才不容易被發(fā)現(xiàn)是機(jī)器轉(zhuǎn)發(fā)的。還有人說(shuō)，如果是剛開通的微博賬號(hào)，不太建議一次性做大量轉(zhuǎn)發(fā)，第一次干這種事，轉(zhuǎn)發(fā)20次就夠了，如果是養(yǎng)過(guò)的微博賬號(hào)，可以讓它針對(duì)一條微博轉(zhuǎn)發(fā)50次。
但這么干也會(huì)有副作用，轉(zhuǎn)發(fā)一次后，你得讓你的賬號(hào)休息4個(gè)小時(shí)左右，不然很容易進(jìn)入平臺(tái)反作弊偵察范圍。
這個(gè)過(guò)程的專業(yè)術(shù)語(yǔ)叫做“輪博”，輪番轉(zhuǎn)發(fā)微博。很多明星在微博上拿到的千萬(wàn)轉(zhuǎn)發(fā)量就是這么來(lái)的，多是粉絲群體性行為，多花一點(diǎn)錢就能辦到。
刺猬公社長(zhǎng)期觀察發(fā)現(xiàn)，很多流量明星的粉絲極具組織性。他們內(nèi)部分有反黑組、數(shù)據(jù)組、控評(píng)組、宣傳組等專業(yè)分工部門，成員們對(duì)社交媒體非常熟悉，整個(gè)操作流程呈流水線運(yùn)作。
除了給明星刷量，有些人也會(huì)去賺取平臺(tái)拉新紅利期的補(bǔ)貼金，長(zhǎng)期下來(lái)，還形成了成熟的網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈。
“他們利用平臺(tái)的漏洞，或者說(shuō)利用一些技術(shù)手段，破解平臺(tái)的服務(wù)，讓平臺(tái)付出不該付出的成本。”中國(guó)傳媒大學(xué)教授王四新接受刺猬公社的訪談時(shí)說(shuō)。
5月9日，微博方面公布一則信息說(shuō)，微博協(xié)同警方破獲網(wǎng)絡(luò)水軍非法獲利案，犯罪嫌疑人黃某非法批量注冊(cè)違規(guī)微博賬號(hào)，模擬用戶轉(zhuǎn)評(píng)贊等行為偽裝成真實(shí)用戶，逃避微博安全檢測(cè)系統(tǒng)，詐取平臺(tái)給用戶的積分現(xiàn)金紅包等激勵(lì)。
這個(gè)線索是在2018年底被微博安全部門發(fā)現(xiàn)的，當(dāng)時(shí)發(fā)現(xiàn)上述異常情況后，經(jīng)過(guò)分析研判，微博方面于2019年2月向警方報(bào)案。
很快，警方在當(dāng)月將犯罪嫌疑人黃某抓獲。黃某在隨后的審訊過(guò)程中自愿認(rèn)罪，并供認(rèn)了作案手段和涉案網(wǎng)絡(luò)黑產(chǎn)工具。4月，黃某因涉嫌詐騙罪被檢察院依法批準(zhǔn)逮捕。目前案件還在進(jìn)一步審理中。
在微博公布的信息中可見，黃某觸犯了《微博服務(wù)使用協(xié)議》，協(xié)議規(guī)定，用戶不得在使用微博時(shí)采取自動(dòng)化操作行為，也不得以其他任何非法目的使用微博，否則會(huì)受到懲罰。但王四新也說(shuō)，這種侵犯屬于“不告不理”的狀態(tài)，如果平臺(tái)遇到這種情況，需要收集好證據(jù)，主動(dòng)去聯(lián)系相關(guān)部門。
黃某的行為與明星粉絲用“星援”App刷量一樣，都是為了獲利。黃某的行為通過(guò)做號(hào)，直接刷平臺(tái)補(bǔ)貼；依靠明星粉絲存活的“星援”App更接近于水軍工具，它間接賺取明星粉絲的錢實(shí)現(xiàn)獲利。早些時(shí)間，“星援”App已被各大應(yīng)用商店下架。
水軍、羊毛黨和做號(hào)黨本質(zhì)相同，直接謀求數(shù)量，追求數(shù)據(jù)最大化，強(qiáng)調(diào)收入，怎么賺錢怎么來(lái)。微博在這方面一直被輿論詬病，未有效限制水軍和羊毛黨，讓微博愈加取向流量化和娛樂化。
但據(jù)微博公布的信息，他們確實(shí)對(duì)水軍和羊毛黨做了一些打擊性預(yù)防工作。在技術(shù)層面，微博利用大數(shù)據(jù)和人工智能，持續(xù)升級(jí)和優(yōu)化算法，提升識(shí)別效率；業(yè)務(wù)層面，在注冊(cè)、登錄等重點(diǎn)環(huán)節(jié)，微博的安全系統(tǒng)會(huì)持續(xù)加強(qiáng)對(duì)相關(guān)惡意行為的場(chǎng)景化攔截。
“微博做這么多其實(shí)也解決不了根本問題，最根本的要牽扯到網(wǎng)絡(luò)實(shí)名制了，你看現(xiàn)在還有很多手機(jī)卡還是虛擬號(hào)，只要涉及到虛擬號(hào)，就會(huì)有很多機(jī)器人微博賬號(hào)出現(xiàn)。”一位來(lái)自頭部互聯(lián)網(wǎng)公司的工作人員對(duì)刺猬公社說(shuō)。
這種情況滋生出來(lái)的一系列副作用不是一家內(nèi)容平臺(tái)的困惑，就用戶作弊行為來(lái)說(shuō)，組織化、職業(yè)化的羊毛黨團(tuán)伙及其背后龐大的網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈，早已蔓延開來(lái)，成為內(nèi)容行業(yè)眼中釘。不少涉及社交、內(nèi)容、電商業(yè)務(wù)的互聯(lián)網(wǎng)公司，都設(shè)立了相應(yīng)的反作弊部門，專門負(fù)責(zé)檢測(cè)、處理異常賬號(hào)。
如果不對(duì)這種情況處理，會(huì)怎么樣呢？
當(dāng)一家內(nèi)容平臺(tái)被大量做號(hào)黨入駐，優(yōu)質(zhì)內(nèi)容創(chuàng)作者被排斥，劣質(zhì)內(nèi)容生產(chǎn)者壯大，其他內(nèi)容平臺(tái)也幸免不了，整個(gè)內(nèi)容產(chǎn)業(yè)的泡沫會(huì)變得越來(lái)越大，一旦泡沫在短時(shí)間內(nèi)被擊破，整個(gè)產(chǎn)業(yè)就會(huì)陡然進(jìn)入蕭條期。
今天這家原創(chuàng)作者被洗稿，明天那家靠洗稿作者被刷量，剩下的優(yōu)質(zhì)內(nèi)容創(chuàng)作者會(huì)陷入一種叫做“無(wú)常綜合癥”當(dāng)中——他們會(huì)越來(lái)越深信：要不了多久整個(gè)內(nèi)容行業(yè)就會(huì)解體，優(yōu)質(zhì)內(nèi)容創(chuàng)作者不再受歡迎，整個(gè)內(nèi)容產(chǎn)業(yè)將會(huì)被腐蝕掉。
不少內(nèi)容平臺(tái)因?yàn)檫@一情況受挫，劣質(zhì)內(nèi)容成了內(nèi)容平臺(tái)的天敵。目前，各個(gè)內(nèi)容平臺(tái)都建設(shè)了自己的用戶賬號(hào)體系，內(nèi)容創(chuàng)作者發(fā)布內(nèi)容會(huì)有自己的賬號(hào)渠道，這也成了平臺(tái)內(nèi)容的源頭，把控源頭是一家內(nèi)容平臺(tái)的基本功。
黑產(chǎn)是行業(yè)問題，如何打擊做號(hào)黨則是平臺(tái)能力了。
只要你足夠有人氣，羊毛黨就會(huì)依附上去
不僅趣頭條、西瓜視頻被羊毛黨薅，騰訊旗下內(nèi)容平臺(tái)也遭受到羊毛黨的攻擊。3月，自媒體人三表發(fā)表一篇文章稱，一名叫露露的河南女子，用他的企鵝號(hào)被盜，每天發(fā)五篇娛樂八卦文章，六十天收益高達(dá)7.5萬(wàn)，最高一篇文章分了1.2萬(wàn)。
后來(lái)，騰訊方面發(fā)布公告稱，將重拳打擊盜號(hào)、增強(qiáng)登錄安全、排查歷史數(shù)據(jù)，“露露事件”系外部網(wǎng)站賬號(hào)密碼數(shù)據(jù)庫(kù)泄露所致。
每隔一段時(shí)間，包括騰訊、字節(jié)跳動(dòng)在內(nèi)的旗下內(nèi)容平臺(tái)都會(huì)發(fā)布處理違規(guī)賬號(hào)名單。5月22日，騰訊內(nèi)容平臺(tái)副總經(jīng)理陳鵬透露，目前企鵝號(hào)年累計(jì)識(shí)別攔截黑產(chǎn)賬號(hào)超過(guò)400萬(wàn)個(gè)，協(xié)助警方打擊黑產(chǎn)團(tuán)伙，抓獲多人。
前不久，有一家在趣頭條上刷量的科技公司被干掉了，“我們提供了一些證據(jù)，然后把湖南的一個(gè)團(tuán)伙給抓獲了。他們其實(shí)就是專門定向地去攻擊一些這種類似有激勵(lì)屬性的平臺(tái)。”姜杰說(shuō)。據(jù)刺猬公社了解，該團(tuán)伙攻擊了一款勢(shì)頭正盛的資訊閱讀類App，后被調(diào)查。
據(jù)趣頭條方面透露，在2017年到2018年間，趣頭條平均每天處理兩萬(wàn)個(gè)劣質(zhì)用戶。趣頭條每天都會(huì)封禁虛假賬號(hào)，最多的時(shí)候，一天能處理掉超過(guò)一百萬(wàn)個(gè)賬號(hào)。現(xiàn)在，平均每天處理掉幾千個(gè)虛假帳號(hào)，數(shù)量驚人。
但羊毛黨不會(huì)被根除。王四新說(shuō)，羊毛黨是互聯(lián)網(wǎng)經(jīng)濟(jì)的一個(gè)衍生物，只要互聯(lián)網(wǎng)存在，只要你足夠有人氣，羊毛黨就會(huì)依附上去。大多時(shí)候，平臺(tái)得一直盯著可疑用戶。
“最近我們其實(shí)也在考慮降級(jí)的策略，我們對(duì)一些疑似作弊用戶，我們可能會(huì)做業(yè)務(wù)上的降級(jí)。比如減少對(duì)應(yīng)的積分激勵(lì)。”姜杰說(shuō)。觀察過(guò)程中，如果發(fā)現(xiàn)用戶異常，就會(huì)把它“丟進(jìn)小黑屋”。為了應(yīng)對(duì)羊毛黨，趣頭條也維護(hù)了虛假帳號(hào)特征黑庫(kù)，一旦發(fā)現(xiàn)被偵查出現(xiàn)違規(guī)，就把它們“關(guān)進(jìn)小黑屋”
騰訊企鵝號(hào)也采取了類似做法，一旦發(fā)現(xiàn)確認(rèn)作弊用戶，該用戶將面臨三項(xiàng)懲罰措施，分成降權(quán)、列入黑產(chǎn)庫(kù)、關(guān)聯(lián)賬號(hào)被連帶處理。但這并不能完全讓內(nèi)容創(chuàng)作者買單，有不少人還在為自己的企鵝號(hào)被盜而頭疼。
