大數(shù)據(jù)的核心就是預(yù)測,它把數(shù)學算法運用到海量的數(shù)據(jù)上來預(yù)測人們的行為模式以及事件發(fā)生的可能性。通過大數(shù)據(jù)分析,當當網(wǎng)可以幫我們推薦想要的書,百度可以為關(guān)聯(lián)網(wǎng)站排序,微信可以猜出我們認識誰。當然,同樣的技術(shù)也可以運用到疾病診斷、推薦治療措施,甚至是識別潛在犯罪分子上。大數(shù)據(jù)已經(jīng)成為了新發(fā)明和新服務(wù)的源泉,而更多的改變正蓄勢待發(fā)。
《紙牌屋》成功的秘密
《紙牌屋》是2013年美國最火的電視連續(xù)劇之一。它雖然有大牌導(dǎo)演加大牌演員的豪華陣容,但是在尋找投資時卻遇上了難題,以往電視劇的主創(chuàng)者都會至少做出一兩集的樣片,以提供投資依據(jù),但這次,導(dǎo)演和演員都太大牌了,他們除了提供一個劇名外,沒提供一點樣片,結(jié)果沒有一家電視臺敢冒風險投資。
這時,一家公司卻做出一個驚人的決定,它不僅向這部電視劇投資了1億美元(幾乎是美國一般電視劇價錢的兩倍),而且史無前例地做出了要拍足兩季的承諾。更驚人的是,這家公司既不是電視臺,也不是電影公司,而是一家類似于中國的土豆或優(yōu)酷這樣的在線視頻播放網(wǎng)站——奈飛(Netflix)。
奈飛公司早期只是一家影片租賃商,通過郵寄方式租賃DVD來賺錢。到了互聯(lián)網(wǎng)時代,奈飛才開始轉(zhuǎn)向在線流媒體播放。令電視業(yè)巨頭們困惑的是,影視投資向來充滿風險,收視率、票房的可預(yù)測性一直很低,也許你找齊了金牌導(dǎo)演、實力演員和當下流行題材的劇本,結(jié)果依然不上座。而奈飛只是一個普通的視頻播放網(wǎng)站,既沒有拍攝經(jīng)驗,也不能很好地為影片的質(zhì)量把關(guān),它為何敢于在不看樣片的情況下進行如此大筆的投資呢?
其實奈飛和傳統(tǒng)電視業(yè)的關(guān)注點并無不同,都是看電視劇的內(nèi)容能否引起觀眾的共鳴。只不過,傳統(tǒng)方式是通過看樣片來決定,而奈飛依賴的是該網(wǎng)站上3000萬名訂閱用戶的收看習慣和偏好所組成的龐大的數(shù)據(jù)群。
用戶只要登錄奈飛的網(wǎng)站,對某一個視頻的每一次點擊、播放、暫停、快進、回放,看了幾分鐘就觀點視頻,或者停了一段時間又重新打開,這些“事件”都被奈飛記錄下來并進行匯總分析。奈飛每天有700名工程師對用戶3000萬次的播放動作、400萬次的評級、300萬次的搜索進行縝密的數(shù)學計算,對視頻觀看時間以及所使用的設(shè)備進行分析挖掘,并以此策劃節(jié)目。
奈飛或許并不能準確知道每名用戶點擊暫停按鈕的個人原因,但是如果足夠多的人在整段視頻中的同一個地方做了相同的舉動,那么數(shù)據(jù)分析就開始顯出意義了。通過挖掘數(shù)據(jù),奈飛不僅知道用戶星期天晚上比星期一下午更愛看恐怖片,也能知道用戶更喜歡用平板電腦觀看視頻,以及哪些地方的人更喜歡在星期天下午用平板電腦觀看。奈飛甚至能夠記錄哪些用戶在一集節(jié)目結(jié)束演職員表開始滾動時就關(guān)閉了視頻。結(jié)果就是,奈飛比觀眾自身還要清楚他們的觀影喜好。
《紙牌屋》并非個案,時至今日,數(shù)據(jù)已經(jīng)像洪流一樣在全球的政治、經(jīng)濟生活中奔騰,很多政府部門、企業(yè)都已經(jīng)在嘗試用大數(shù)據(jù)來進行決策和管理。2012年1月瑞士達沃斯世界經(jīng)濟論壇的一份報告中指出,大數(shù)據(jù)的價值堪比石油或黃金。
數(shù)據(jù)揭示的礦難真相
2010年4月5日,美國西弗吉尼亞州的一處煤礦發(fā)生爆炸,造成29人遇難,這是美國1984年以來傷亡最嚴重的一起礦難。
像中國一樣,礦難之后,美國的互聯(lián)網(wǎng)上民情洶涌,聲討責任的聲浪此起彼伏。美國網(wǎng)民也在網(wǎng)上挖掘災(zāi)難發(fā)生的原因,但與國內(nèi)盛行的“人肉搜索”不同,隨著公共數(shù)據(jù)的大面積開放,美國民眾可以通過數(shù)據(jù)發(fā)現(xiàn)真相。
礦難發(fā)生的當天,民眾輿論的矛頭首先直指政府主管部門——美國礦山安全健康局,第一個問題是:該局是否工作到位、監(jiān)管得當?在礦山安全健康局的網(wǎng)站,可以查到這個煤礦一系列監(jiān)管記錄,包括檢查的時間、結(jié)果、違反的法律條款、處理的意見、罰款的多少、已繳納的金額、煤礦是否申訴等數(shù)據(jù)項。這些數(shù)據(jù)表明,該煤礦的安全早已亮了紅燈。該煤礦僅2010年3月份就有53條違規(guī)記錄,其中12條與地下逃生通道和通風設(shè)施有關(guān)。2009年,該礦共有515條違規(guī)記錄,違規(guī)次數(shù)是全國煤礦平均水平的11.6倍。
既然早已劣跡斑斑,政府一而再、再而三地警告處罰,這個煤礦為何還是沒有避免災(zāi)難?煤礦的老板是何方神圣,膽敢如此漠視政府的三令五申、頂風作案呢?一個網(wǎng)站公布了煤礦老板布蘭肯希普的一系列數(shù)據(jù)資料,網(wǎng)民這才恍然大悟:布蘭肯希普名下有46個煤礦,是當?shù)卣偷拇蠼鹬?。?shù)據(jù)表明,自2003年以來,布蘭肯希普下屬的公司共捐出數(shù)百萬政治獻金,捐款流向了當?shù)胤ü俸妥h員。
至此,一幅充滿數(shù)據(jù)細節(jié)的圖像已經(jīng)清晰地出現(xiàn),顯示災(zāi)難的發(fā)生與官商勾結(jié)有著重大關(guān)聯(lián)。于是,網(wǎng)絡(luò)輿論、新聞媒體開始了煤礦管理制度層面的反思和批判。如何完善制度、避免同樣的悲劇在其他煤礦重演,一時間成為新聞輿論討論的重點。
數(shù)據(jù)鋪就平安大道
隨著汽車的普及,道路交通事故也隨之增多,并且逐漸成為一個突出的公共問題。美國從1960年到1965年,因交通事故而死亡的人數(shù)以每年近30%的速度增長。當時很多專家估計,如果不采取有力措施來扼制這個增長勢頭,死亡人數(shù)將在1975年達到10萬。不過,交通事故的死亡人數(shù)在1972年達到歷史最高的54589人后,就開始呈現(xiàn)不斷下降的趨勢,到2009年,死亡人數(shù)已降為33808人。
這個成績的取得是極其不容易的。因為近幾十年來,不論是人口、駕駛員還是機動車的數(shù)量和密度都成倍增長,車輛的使用頻率也大幅增加,但交通事故的死亡人數(shù)卻顯著下降,從5萬多人下降到3萬多人。其中的原因除了汽車本身的安全性不斷提高以外,政策的引導(dǎo)和管理同樣起到了至關(guān)重要的作用。而交通安全管理局正是依據(jù)多年來的交通事故記錄制定出了相應(yīng)的政策和法規(guī)。
例如,通過分析全年的交通事故記錄,人們很容易發(fā)現(xiàn)夏季明顯是交通事故的高發(fā)期,每天晚上6點-9點是交通事故的最高發(fā)時段,但是周六這個時段的事故發(fā)生量比工作日還多。這說明不僅僅是因為上下班,即使休息,這個時段也是人們駕車出行最活躍的時段。如果從一周的時間段來看,周六、周日的零點-3點才是真正的致命時段,這個時段發(fā)生事故的原因有66%是酒后駕駛。有了這些數(shù)據(jù),交管局自然可以更有針對性地制定政策,例如周末午夜時加強酒駕的檢查力度,晚高峰期間加強疏導(dǎo)。
隨著數(shù)據(jù)的累積和增多,人們可以做的分析和對比也越來越多。一起交通事故的數(shù)據(jù)可能是無序的,一年的數(shù)據(jù)、一個地區(qū)的數(shù)據(jù)也看不出太多的章法,但隨著跨年度、跨地區(qū)數(shù)據(jù)越來越多,群體的行為特點就會在數(shù)據(jù)上呈現(xiàn)出一種秩序和關(guān)聯(lián),更多的規(guī)律也將浮出水面。
交管局就曾發(fā)現(xiàn),盡管美國很多州都要求駕駛員必須佩戴安全帶,但隨后收集到的數(shù)據(jù)卻表明這些州死亡率下降的幅度卻各不相同。這個數(shù)據(jù)之差引發(fā)了政府對全國執(zhí)行情況的檢查和對比。后來發(fā)現(xiàn),效果明顯的州,警察有權(quán)力隨時攔住汽車,檢查駕駛員是否佩戴了安全帶;而效果不太好的州,警察則只能在以其他理由攔住車輛時順便檢查駕駛員是否佩戴了安全帶。這個發(fā)現(xiàn)促使多個州改變了各自的執(zhí)法方式。
數(shù)據(jù)讓行為更有針對性
沃爾瑪擁有世界上數(shù)一數(shù)二的數(shù)據(jù)倉庫,也是最早應(yīng)用數(shù)據(jù)挖掘技術(shù)的企業(yè)之一。在一次例行的數(shù)據(jù)分析之后,研究人員發(fā)現(xiàn):跟尿布一起搭配購買最多的商品竟是啤酒。尿布和啤酒聽起來風馬牛不相及,這種關(guān)聯(lián)性著實令人費解,經(jīng)過跟蹤調(diào)查,研究人員終于發(fā)現(xiàn)了這種聯(lián)系背后的原因:一些年輕的爸爸經(jīng)常要到超市去購買嬰兒尿布,有30%-40%的新爸爸會順便買點啤酒犒勞自己。沃爾瑪隨后對啤酒和尿布進行了捆綁銷售,不出意料,銷售量雙雙增加。
有些公司在做數(shù)據(jù)挖掘時還發(fā)現(xiàn)聽過羅大佑現(xiàn)場演唱會的人,對上海大眾某款汽車的興趣度比其他人高出30%。經(jīng)過分析,人們這款汽車的受眾是35歲左右,希望提高生活品質(zhì)的居家型的男性,這和羅大佑的受眾非常一致。
谷歌有一個名為“谷歌流感趨勢”的工具,它可以通過跟蹤搜索詞來判斷全美地區(qū)的流感情況。如果諸如溫度計、流感癥狀、胸悶等關(guān)鍵詞出現(xiàn)的頻率很高,谷歌系統(tǒng)就會進行跟蹤分析,創(chuàng)建地區(qū)流感地圖。其結(jié)果與美國疾病防控中心的報告大體一致。