大數(shù)據(jù)技術(shù)的體系龐大且復(fù)雜，基礎(chǔ)的技術(shù)包含數(shù)據(jù)的采集、數(shù)據(jù)預(yù)處理、分布式存儲(chǔ)、NoSQL數(shù)據(jù)庫(kù)、數(shù)據(jù)倉(cāng)庫(kù)、機(jī)器學(xué)習(xí)、并行計(jì)算、可視化等各種技術(shù)范疇和不同的技術(shù)層面。首先給出一個(gè)通用化的大數(shù)據(jù)處理框架，主要分為下面幾個(gè)方面：數(shù)據(jù)采集與預(yù)處理、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)清洗、數(shù)據(jù)查詢分析和數(shù)據(jù)可視化。
一、數(shù)據(jù)采集與預(yù)處理
對(duì)于各種來(lái)源的數(shù)據(jù)，包括移動(dòng)互聯(lián)網(wǎng)數(shù)據(jù)、社交網(wǎng)絡(luò)的數(shù)據(jù)等，這些結(jié)構(gòu)化和非結(jié)構(gòu)化的海量數(shù)據(jù)是零散的，也就是所謂的數(shù)據(jù)孤島，此時(shí)的這些數(shù)據(jù)并沒(méi)有什么意義，數(shù)據(jù)采集就是將這些數(shù)據(jù)寫(xiě)入數(shù)據(jù)倉(cāng)庫(kù)中，把零散的數(shù)據(jù)整合在一起，對(duì)這些數(shù)據(jù)綜合起來(lái)進(jìn)行分析。數(shù)據(jù)采集包括文件日志的采集、數(shù)據(jù)庫(kù)日志的采集、關(guān)系型數(shù)據(jù)庫(kù)的接入和應(yīng)用程序的接入等。在數(shù)據(jù)量比較小的時(shí)候，可以寫(xiě)個(gè)定時(shí)的腳本將日志寫(xiě)入存儲(chǔ)系統(tǒng)，但隨著數(shù)據(jù)量的增長(zhǎng)，這些方法無(wú)法提供數(shù)據(jù)安全保障，并且運(yùn)維困難，需要更強(qiáng)壯的解決方案。
Flume NG作為實(shí)時(shí)日志收集系統(tǒng)，支持在日志系統(tǒng)中定制各類數(shù)據(jù)發(fā)送方，用于收集數(shù)據(jù)，同時(shí)，對(duì)數(shù)據(jù)進(jìn)行簡(jiǎn)單處理，并寫(xiě)到各種數(shù)據(jù)接收方（比如文本，HDFS，Hbase等）。Flume NG采用的是三層架構(gòu)：Agent層，Collector層和Store層，每一層均可水平拓展。其中Agent包含Source，Channel和 Sink，source用來(lái)消費(fèi)（收集）數(shù)據(jù)源到channel組件中，channel作為中間臨時(shí)存儲(chǔ)，保存所有source的組件信息，sink從channel中讀取數(shù)據(jù)，讀取成功之后會(huì)刪除channel中的信息。
NDC，Netease Data Canal，直譯為網(wǎng)易數(shù)據(jù)運(yùn)河系統(tǒng)，是網(wǎng)易針對(duì)結(jié)構(gòu)化數(shù)據(jù)庫(kù)的數(shù)據(jù)實(shí)時(shí)遷移、同步和訂閱的平臺(tái)化解決方案。它整合了網(wǎng)易過(guò)去在數(shù)據(jù)傳輸領(lǐng)域的各種工具和經(jīng)驗(yàn)，將單機(jī)數(shù)據(jù)庫(kù)、分布式數(shù)據(jù)庫(kù)、OLAP系統(tǒng)以及下游應(yīng)用通過(guò)數(shù)據(jù)鏈路串在一起。除了保障高效的數(shù)據(jù)傳輸外，NDC的設(shè)計(jì)遵循了單元化和平臺(tái)化的設(shè)計(jì)哲學(xué)。
Logstash是開(kāi)源的服務(wù)器端數(shù)據(jù)處理管道，能夠同時(shí)從多個(gè)來(lái)源采集數(shù)據(jù)、轉(zhuǎn)換數(shù)據(jù)，然后將數(shù)據(jù)發(fā)送到您最喜歡的 “存儲(chǔ)庫(kù)” 中。一般常用的存儲(chǔ)庫(kù)是Elasticsearch。Logstash 支持各種輸入選擇，可以在同一時(shí)間從眾多常用的數(shù)據(jù)來(lái)源捕捉事件，能夠以連續(xù)的流式傳輸方式，輕松地從您的日志、指標(biāo)、Web 應(yīng)用、數(shù)據(jù)存儲(chǔ)以及各種 AWS 服務(wù)采集數(shù)據(jù)。
Sqoop，用來(lái)將關(guān)系型數(shù)據(jù)庫(kù)和Hadoop中的數(shù)據(jù)進(jìn)行相互轉(zhuǎn)移的工具，可以將一個(gè)關(guān)系型數(shù)據(jù)庫(kù)（例如Mysql、Oracle）中的數(shù)據(jù)導(dǎo)入到Hadoop（例如HDFS、Hive、Hbase）中，也可以將Hadoop（例如HDFS、Hive、Hbase）中的數(shù)據(jù)導(dǎo)入到關(guān)系型數(shù)據(jù)庫(kù)（例如Mysql、Oracle）中。Sqoop 啟用了一個(gè) MapReduce 作業(yè)（極其容錯(cuò)的分布式并行計(jì)算）來(lái)執(zhí)行任務(wù)。Sqoop的另一大優(yōu)勢(shì)是其傳輸大量結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)的過(guò)程是完全自動(dòng)化的。
流式計(jì)算是行業(yè)研究的一個(gè)熱點(diǎn)，流式計(jì)算對(duì)多個(gè)高吞吐量的數(shù)據(jù)源進(jìn)行實(shí)時(shí)的清洗、聚合和分析，可以對(duì)存在于社交網(wǎng)站、新聞等的數(shù)據(jù)信息流進(jìn)行快速的處理并反饋，目前大數(shù)據(jù)流分析工具有很多，比如開(kāi)源的strom，spark streaming等。
Strom集群結(jié)構(gòu)是有一個(gè)主節(jié)點(diǎn)（nimbus）和多個(gè)工作節(jié)點(diǎn)（supervisor）組成的主從結(jié)構(gòu)，主節(jié)點(diǎn)通過(guò)配置靜態(tài)指定或者在運(yùn)行時(shí)動(dòng)態(tài)選舉，nimbus與supervisor都是Storm提供的后臺(tái)守護(hù)進(jìn)程，之間的通信是結(jié)合Zookeeper的狀態(tài)變更通知和監(jiān)控通知來(lái)處理。nimbus進(jìn)程的主要職責(zé)是管理、協(xié)調(diào)和監(jiān)控集群上運(yùn)行的topology（包括topology的發(fā)布、任務(wù)指派、事件處理時(shí)重新指派任務(wù)等）。supervisor進(jìn)程等待nimbus分配任務(wù)后生成并監(jiān)控worker（jvm進(jìn)程）執(zhí)行任務(wù)。supervisor與worker運(yùn)行在不同的jvm上，如果由supervisor啟動(dòng)的某個(gè)worker因?yàn)殄e(cuò)誤異常退出（或被kill掉），supervisor會(huì)嘗試重新生成新的worker進(jìn)程。
當(dāng)使用上游模塊的數(shù)據(jù)進(jìn)行計(jì)算、統(tǒng)計(jì)、分析時(shí)，就可以使用消息系統(tǒng)，尤其是分布式消息系統(tǒng)。Kafka使用Scala進(jìn)行編寫(xiě)，是一種分布式的、基于發(fā)布/訂閱的消息系統(tǒng)。Kafka的設(shè)計(jì)理念之一就是同時(shí)提供離線處理和實(shí)時(shí)處理，以及將數(shù)據(jù)實(shí)時(shí)備份到另一個(gè)數(shù)據(jù)中心，Kafka可以有許多的生產(chǎn)者和消費(fèi)者分享多個(gè)主題，將消息以topic為單位進(jìn)行歸納;Kafka發(fā)布消息的程序稱為producer，也叫生產(chǎn)者，預(yù)訂topics并消費(fèi)消息的程序稱為consumer，也叫消費(fèi)者;當(dāng)Kafka以集群的方式運(yùn)行時(shí)，可以由一個(gè)服務(wù)或者多個(gè)服務(wù)組成，每個(gè)服務(wù)叫做一個(gè)broker，運(yùn)行過(guò)程中producer通過(guò)網(wǎng)絡(luò)將消息發(fā)送到Kafka集群，集群向消費(fèi)者提供消息。Kafka通過(guò)Zookeeper管理集群配置，選舉leader，以及在Consumer Group發(fā)生變化時(shí)進(jìn)行rebalance。Producer使用push模式將消息發(fā)布到broker，Consumer使用pull模式從broker訂閱并消費(fèi)消息。Kafka可以和Flume一起工作，如果需要將流式數(shù)據(jù)從Kafka轉(zhuǎn)移到hadoop，可以使用Flume代理agent，將Kafka當(dāng)做一個(gè)來(lái)源source，這樣可以從Kafka讀取數(shù)據(jù)到Hadoop。
Zookeeper是一個(gè)分布式的，開(kāi)放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，提供數(shù)據(jù)同步服務(wù)。它的作用主要有配置管理、名字服務(wù)、分布式鎖和集群管理。配置管理指的是在一個(gè)地方修改了配置，那么對(duì)這個(gè)地方的配置感興趣的所有的都可以獲得變更，省去了手動(dòng)拷貝配置的繁瑣，還很好的保證了數(shù)據(jù)的可靠和一致性，同時(shí)它可以通過(guò)名字來(lái)獲取資源或者服務(wù)的地址等信息，可以監(jiān)控集群中機(jī)器的變化，實(shí)現(xiàn)了類似于心跳機(jī)制的功能。
二、數(shù)據(jù)存儲(chǔ)
Hadoop作為一個(gè)開(kāi)源的框架，專為離線和大規(guī)模數(shù)據(jù)分析而設(shè)計(jì)，HDFS作為其核心的存儲(chǔ)引擎，已被廣泛用于數(shù)據(jù)存儲(chǔ)。
HBase，是一個(gè)分布式的、面向列的開(kāi)源數(shù)據(jù)庫(kù)，可以認(rèn)為是hdfs的封裝，本質(zhì)是數(shù)據(jù)存儲(chǔ)、NoSQL數(shù)據(jù)庫(kù)。HBase是一種Key/Value系統(tǒng)，部署在hdfs上，克服了hdfs在隨機(jī)讀寫(xiě)這個(gè)方面的缺點(diǎn)，與hadoop一樣，Hbase目標(biāo)主要依靠橫向擴(kuò)展，通過(guò)不斷增加廉價(jià)的商用服務(wù)器，來(lái)增加計(jì)算和存儲(chǔ)能力。
Phoenix，相當(dāng)于一個(gè)Java中間件，幫助開(kāi)發(fā)工程師能夠像使用JDBC訪問(wèn)關(guān)系型數(shù)據(jù)庫(kù)一樣訪問(wèn)NoSQL數(shù)據(jù)庫(kù)HBase。
Yarn是一種Hadoop資源管理器，可為上層應(yīng)用提供統(tǒng)一的資源管理和調(diào)度，它的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來(lái)了巨大好處。Yarn由下面的幾大組件構(gòu)成：一個(gè)全局的資源管理器ResourceManager、ResourceManager的每個(gè)節(jié)點(diǎn)代理NodeManager、表示每個(gè)應(yīng)用的Application以及每一個(gè)ApplicationMaster擁有多個(gè)Container在NodeManager上運(yùn)行。
Mesos是一款開(kāi)源的集群管理軟件，支持Hadoop、ElasticSearch、Spark、Storm和Kafka等應(yīng)用架構(gòu)。
Redis是一種速度非?？斓姆顷P(guān)系數(shù)據(jù)庫(kù)，可以存儲(chǔ)鍵與5種不同類型的值之間的映射，可以將存儲(chǔ)在內(nèi)存的鍵值對(duì)數(shù)據(jù)持久化到硬盤(pán)中，使用復(fù)制特性來(lái)擴(kuò)展性能，還可以使用客戶端分片來(lái)擴(kuò)展寫(xiě)性能。
Atlas是一個(gè)位于應(yīng)用程序與MySQL之間的中間件。在后端DB看來(lái)，Atlas相當(dāng)于連接它的客戶端，在前端應(yīng)用看來(lái)，Atlas相當(dāng)于一個(gè)DB。Atlas作為服務(wù)端與應(yīng)用程序通訊，它實(shí)現(xiàn)了MySQL的客戶端和服務(wù)端協(xié)議，同時(shí)作為客戶端與MySQL通訊。它對(duì)應(yīng)用程序屏蔽了DB的細(xì)節(jié)，同時(shí)為了降低MySQL負(fù)擔(dān)，它還維護(hù)了連接池。Atlas啟動(dòng)后會(huì)創(chuàng)建多個(gè)線程，其中一個(gè)為主線程，其余為工作線程。主線程負(fù)責(zé)監(jiān)聽(tīng)所有的客戶端連接請(qǐng)求，工作線程只監(jiān)聽(tīng)主線程的命令請(qǐng)求。
Kudu是圍繞Hadoop生態(tài)圈建立的存儲(chǔ)引擎，Kudu擁有和Hadoop生態(tài)圈共同的設(shè)計(jì)理念，它運(yùn)行在普通的服務(wù)器上、可分布式規(guī)?；渴?、并且滿足工業(yè)界的高可用要求。其設(shè)計(jì)理念為fast analytics on fast data。作為一個(gè)開(kāi)源的存儲(chǔ)引擎，可以同時(shí)提供低延遲的隨機(jī)讀寫(xiě)和高效的數(shù)據(jù)分析能力。Kudu不但提供了行級(jí)的插入、更新、刪除API，同時(shí)也提供了接近Parquet性能的批量掃描操作。使用同一份存儲(chǔ)，既可以進(jìn)行隨機(jī)讀寫(xiě)，也可以滿足數(shù)據(jù)分析的要求。Kudu的應(yīng)用場(chǎng)景很廣泛，比如可以進(jìn)行實(shí)時(shí)的數(shù)據(jù)分析，用于數(shù)據(jù)可能會(huì)存在變化的時(shí)序數(shù)據(jù)應(yīng)用等。
在數(shù)據(jù)存儲(chǔ)過(guò)程中，涉及到的數(shù)據(jù)表都是成千上百列，包含各種復(fù)雜的Query，推薦使用列式存儲(chǔ)方法，比如parquent,ORC等對(duì)數(shù)據(jù)進(jìn)行壓縮。Parquet 可以支持靈活的壓縮選項(xiàng)，顯著減少磁盤(pán)上的存儲(chǔ)。
三、數(shù)據(jù)清洗
MapReduce作為Hadoop的查詢引擎，用于大規(guī)模數(shù)據(jù)集的并行計(jì)算，”Map（映射）”和”Reduce（歸約）”，是它的主要思想。它極大的方便了編程人員在不會(huì)分布式并行編程的情況下，將自己的程序運(yùn)行在分布式系統(tǒng)中。
隨著業(yè)務(wù)數(shù)據(jù)量的增多，需要進(jìn)行訓(xùn)練和清洗的數(shù)據(jù)會(huì)變得越來(lái)越復(fù)雜，這個(gè)時(shí)候就需要任務(wù)調(diào)度系統(tǒng)，比如oozie或者azkaban，對(duì)關(guān)鍵任務(wù)進(jìn)行調(diào)度和監(jiān)控。
Oozie是用于Hadoop平臺(tái)的一種工作流調(diào)度引擎，提供了RESTful API接口來(lái)接受用戶的提交請(qǐng)求（提交工作流作業(yè)），當(dāng)提交了workflow后，由工作流引擎負(fù)責(zé)workflow的執(zhí)行以及狀態(tài)的轉(zhuǎn)換。用戶在HDFS上部署好作業(yè)（MR作業(yè)），然后向Oozie提交Workflow，Oozie以異步方式將作業(yè)（MR作業(yè)）提交給Hadoop。這也是為什么當(dāng)調(diào)用Oozie 的RESTful接口提交作業(yè)之后能立即返回一個(gè)JobId的原因，用戶程序不必等待作業(yè)執(zhí)行完成（因?yàn)橛行┐笞鳂I(yè)可能會(huì)執(zhí)行很久（幾個(gè)小時(shí)甚至幾天））。Oozie在后臺(tái)以異步方式，再將workflow對(duì)應(yīng)的Action提交給hadoop執(zhí)行。
Azkaban也是一種工作流的控制引擎，可以用來(lái)解決有多個(gè)hadoop或者spark等離線計(jì)算任務(wù)之間的依賴關(guān)系問(wèn)題。azkaban主要是由三部分構(gòu)成：Relational Database，Azkaban Web Server和Azkaban Executor Server。azkaban將大多數(shù)的狀態(tài)信息都保存在MySQL中，Azkaban Web Server提供了Web UI，是azkaban主要的管理者，包括project的管理、認(rèn)證、調(diào)度以及對(duì)工作流執(zhí)行過(guò)程中的監(jiān)控等;AzkabanExecutor Server用來(lái)調(diào)度工作流和任務(wù)，記錄工作流或者任務(wù)的日志。
流計(jì)算任務(wù)的處理平臺(tái)Sloth，是網(wǎng)易首個(gè)自研流計(jì)算平臺(tái)，旨在解決公司內(nèi)各產(chǎn)品日益增長(zhǎng)的流計(jì)算需求。作為一個(gè)計(jì)算服務(wù)平臺(tái)，其特點(diǎn)是易用、實(shí)時(shí)、可靠，為用戶節(jié)省技術(shù)方面（開(kāi)發(fā)、運(yùn)維）的投入，幫助用戶專注于解決產(chǎn)品本身的流計(jì)算需求。
四、數(shù)據(jù)查詢分析
Hive的核心工作就是把SQL語(yǔ)句翻譯成MR程序，可以將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫(kù)表，并提供 HQL（Hive SQL）查詢功能。Hive本身不存儲(chǔ)和計(jì)算數(shù)據(jù)，它完全依賴于HDFS和MapReduce?？梢詫ive理解為一個(gè)客戶端工具，將SQL操作轉(zhuǎn)換為相應(yīng)的MapReduce jobs，然后在hadoop上面運(yùn)行。Hive支持標(biāo)準(zhǔn)的SQL語(yǔ)法，免去了用戶編寫(xiě)MapReduce程序的過(guò)程，它的出現(xiàn)可以讓那些精通SQL技能、但是不熟悉MapReduce 、編程能力較弱與不擅長(zhǎng)Java語(yǔ)言的用戶能夠在HDFS大規(guī)模數(shù)據(jù)集上很方便地利用SQL 語(yǔ)言查詢、匯總、分析數(shù)據(jù)。
Hive是為大數(shù)據(jù)批量處理而生的，Hive的出現(xiàn)解決了傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)（MySql、Oracle）在大數(shù)據(jù)處理上的瓶頸 。Hive 將執(zhí)行計(jì)劃分成map->shuffle->reduce->map->shuffle->reduce…的模型。如果一個(gè)Query會(huì)被編譯成多輪MapReduce，則會(huì)有更多的寫(xiě)中間結(jié)果。由于MapReduce執(zhí)行框架本身的特點(diǎn)，過(guò)多的中間過(guò)程會(huì)增加整個(gè)Query的執(zhí)行時(shí)間。在Hive的運(yùn)行過(guò)程中，用戶只需要?jiǎng)?chuàng)建表，導(dǎo)入數(shù)據(jù)，編寫(xiě)SQL分析語(yǔ)句即可。剩下的過(guò)程由Hive框架自動(dòng)的完成。
Impala是對(duì)Hive的一個(gè)補(bǔ)充，可以實(shí)現(xiàn)高效的SQL查詢。使用Impala來(lái)實(shí)現(xiàn)SQLon Hadoop，用來(lái)進(jìn)行大數(shù)據(jù)實(shí)時(shí)查詢分析。通過(guò)熟悉的傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)的SQL風(fēng)格來(lái)操作大數(shù)據(jù)，同時(shí)數(shù)據(jù)也是可以存儲(chǔ)到HDFS和HBase中的。Impala沒(méi)有再使用緩慢的Hive+MapReduce批處理，而是通過(guò)使用與商用并行關(guān)系數(shù)據(jù)庫(kù)中類似的分布式查詢引擎（由Query Planner、QueryCoordinator和Query Exec Engine三部分組成），可以直接從HDFS或HBase中用SELECT、JOIN和統(tǒng)計(jì)函數(shù)查詢數(shù)據(jù)，從而大大降低了延遲。Impala將整個(gè)查詢分成一執(zhí)行計(jì)劃樹(shù)，而不是一連串的MapReduce任務(wù)，相比Hive沒(méi)了MapReduce啟動(dòng)時(shí)間。
Hive 適合于長(zhǎng)時(shí)間的批處理查詢分析，而Impala適合于實(shí)時(shí)交互式SQL查詢，Impala給數(shù)據(jù)人員提供了快速實(shí)驗(yàn)，驗(yàn)證想法的大數(shù)據(jù)分析工具，可以先使用Hive進(jìn)行數(shù)據(jù)轉(zhuǎn)換處理，之后使用Impala在Hive處理好后的數(shù)據(jù)集上進(jìn)行快速的數(shù)據(jù)分析?？偟膩?lái)說(shuō)：Impala把執(zhí)行計(jì)劃表現(xiàn)為一棵完整的執(zhí)行計(jì)劃樹(shù)，可以更自然地分發(fā)執(zhí)行計(jì)劃到各個(gè)Impalad執(zhí)行查詢，而不用像Hive那樣把它組合成管道型的map->reduce模式，以此保證Impala有更好的并發(fā)性和避免不必要的中間sort與shuffle。但是Impala不支持UDF，能處理的問(wèn)題有一定的限制。
Spark擁有Hadoop MapReduce所具有的特點(diǎn)，它將Job中間輸出結(jié)果保存在內(nèi)存中，從而不需要讀取HDFS。Spark 啟用了內(nèi)存分布數(shù)據(jù)集，除了能夠提供交互式查詢外，它還可以優(yōu)化迭代工作負(fù)載。Spark是在 Scala 語(yǔ)言中實(shí)現(xiàn)的，它將 Scala 用作其應(yīng)用程序框架。與 Hadoop 不同，Spark 和Scala 能夠緊密集成，其中的 Scala 可以像操作本地集合對(duì)象一樣輕松地操作分布式數(shù)據(jù)集。
Nutch 是一個(gè)開(kāi)源Java 實(shí)現(xiàn)的搜索引擎。它提供了我們運(yùn)行自己的搜索引擎所需的全部工具，包括全文搜索和Web爬蟲(chóng)。
Solr用Java編寫(xiě)、運(yùn)行在Servlet容器（如Apache Tomcat或Jetty）的一個(gè)獨(dú)立的企業(yè)級(jí)搜索應(yīng)用的全文搜索服務(wù)器。它對(duì)外提供類似于Web-service的API接口，用戶可以通過(guò)http請(qǐng)求，向搜索引擎服務(wù)器提交一定格式的XML文件，生成索引;也可以通過(guò)Http Get操作提出查找請(qǐng)求，并得到XML格式的返回結(jié)果。
Elasticsearch是一個(gè)開(kāi)源的全文搜索引擎，基于Lucene的搜索服務(wù)器，可以快速的儲(chǔ)存、搜索和分析海量的數(shù)據(jù)。設(shè)計(jì)用于云計(jì)算中，能夠達(dá)到實(shí)時(shí)搜索，穩(wěn)定，可靠，快速，安裝使用方便。
還涉及到一些機(jī)器學(xué)習(xí)語(yǔ)言，比如，Mahout主要目標(biāo)是創(chuàng)建一些可伸縮的機(jī)器學(xué)習(xí)算法，供開(kāi)發(fā)人員在Apache的許可下免費(fèi)使用;深度學(xué)習(xí)框架Caffe以及使用數(shù)據(jù)流圖進(jìn)行數(shù)值計(jì)算的開(kāi)源軟件庫(kù)TensorFlow等，常用的機(jī)器學(xué)習(xí)算法比如，貝葉斯、邏輯回歸、決策樹(shù)、神經(jīng)網(wǎng)絡(luò)、協(xié)同過(guò)濾等。
五、數(shù)據(jù)可視化
對(duì)接一些BI平臺(tái)，將分析得到的數(shù)據(jù)進(jìn)行可視化，用于指導(dǎo)決策服務(wù)。主流的BI平臺(tái)比如，國(guó)外的敏捷BI Tableau、Qlikview、PowrerBI等，國(guó)內(nèi)的SmallBI和新興的網(wǎng)易有數(shù)等。
在上面的每一個(gè)階段，保障數(shù)據(jù)的安全是不可忽視的問(wèn)題。
基于網(wǎng)絡(luò)身份認(rèn)證的協(xié)議Kerberos，用來(lái)在非安全網(wǎng)絡(luò)中，對(duì)個(gè)人通信以安全的手段進(jìn)行身份認(rèn)證，它允許某實(shí)體在非安全網(wǎng)絡(luò)環(huán)境下通信，向另一個(gè)實(shí)體以一種安全的方式證明自己的身份。
控制權(quán)限的ranger是一個(gè)Hadoop集群權(quán)限框架，提供操作、監(jiān)控、管理復(fù)雜的數(shù)據(jù)權(quán)限，它提供一個(gè)集中的管理機(jī)制，管理基于yarn的Hadoop生態(tài)圈的所有數(shù)據(jù)權(quán)限?？梢詫?duì)Hadoop生態(tài)的組件如Hive，Hbase進(jìn)行細(xì)粒度的數(shù)據(jù)訪問(wèn)控制。通過(guò)操作Ranger控制臺(tái)，管理員可以輕松的通過(guò)配置策略來(lái)控制用戶訪問(wèn)HDFS文件夾、HDFS文件、數(shù)據(jù)庫(kù)、表、字段權(quán)限。這些策略可以為不同的用戶和組來(lái)設(shè)置，同時(shí)權(quán)限可與hadoop無(wú)縫對(duì)接。
簡(jiǎn)單說(shuō)有三大核心技術(shù)：拿數(shù)據(jù)，算數(shù)據(jù)，賣數(shù)據(jù)。
首先做為大數(shù)據(jù)，拿不到大量數(shù)據(jù)都白扯。現(xiàn)在由于機(jī)器學(xué)習(xí)的興起，以及萬(wàn)金油算法的崛起，導(dǎo)致算法地位下降，數(shù)據(jù)地位提高了。舉個(gè)通俗的例子，就好比由于教育的發(fā)展，導(dǎo)致個(gè)人智力重要性降低，教育背景變重要了，因?yàn)橐话闳税礃?biāo)準(zhǔn)流程讀個(gè)書(shū)，就能比牛頓懂得多了。谷歌就說(shuō)：拿牛逼的數(shù)據(jù)喂給一個(gè)一般的算法，很多情況下好于拿傻傻的數(shù)據(jù)喂給牛逼的算法。而且知不知道弄個(gè)牛逼算法有多困難？一般人連這個(gè)困難度都搞不清楚好不好……拿數(shù)據(jù)很重要，巧婦難為無(wú)米之炊呀！所以為什么好多公司要燒錢搶入口，搶用戶，是為了爭(zhēng)奪數(shù)據(jù)源呀！不過(guò)運(yùn)營(yíng)，和產(chǎn)品更關(guān)注這個(gè)，我是程序員，我不管……
其次就是算數(shù)據(jù)，如果數(shù)據(jù)拿到直接就有價(jià)值地話，那也就不需要公司了，政府直接賺外快就好了。蘋(píng)果落地都能看到，人家牛頓能整個(gè)萬(wàn)有引力，我就只能撿來(lái)吃掉，差距呀……所以數(shù)據(jù)在那里擺著，能挖出啥就各憑本事了。算數(shù)據(jù)就需要計(jì)算平臺(tái)了，數(shù)據(jù)怎么存（HDFS, S3, HBase, Cassandra），怎么算（Hadoop,Spark）就靠咱們程序猿了……
再次就是賣得出去才能變現(xiàn)，否則就是搞公益了，比如《疑犯追蹤》里面的李四和大錘他們……見(jiàn)人所未見(jiàn)，預(yù)測(cè)未來(lái)并趨利避害才是智能的終極目標(biāo)以及存在意義，對(duì)吧？這個(gè)得靠大家一塊兒琢磨。
作者認(rèn)為最后那個(gè)才是“核心技術(shù)”，什么Spark，Storm，Deep-Learning，都是第二梯隊(duì)的……當(dāng)然，沒(méi)有強(qiáng)大的算力做支撐，智能應(yīng)該也無(wú)從說(shuō)起吧。
