自動化運維監(jiān)控工具誕生
初期階段IT基礎設施通常處在小規(guī)模狀態(tài)。幾臺至幾十臺機器的規(guī)模，足以滿足業(yè)務需求。很多公司都不一定配有專門的運維人員或者部門，業(yè)務開發(fā)人員完成自己業(yè)務工作的同時，也一并完成所負責管理相關業(yè)務的設備。隨著云時代到來了，IT基礎設施迅速發(fā)展成幾百上千服務器。更多的業(yè)務系統(tǒng)上線，業(yè)務人員也無暇再顧及運維工作。此時，運維人員開始專業(yè)化，獨立成部門。各類孤島式的運維管理工具上線，提升運維效率。
可是在各類運維工具上線之后，大家發(fā)現(xiàn)運維人員仍然時常要充當“救火隊員”，收警告、修機器，哪里宕機去哪里。雖然有了運維管理工具自動化收集監(jiān)控數(shù)據(jù)之后，但還是有很多問題，讓底層物理資源運維工作無法實現(xiàn)完全自動化。
逃不開的人工巡檢
目前，多數(shù)客戶所選擇的運維監(jiān)控方式都是在操作系統(tǒng)上安裝Agent訪問設備驅(qū)動，讀取硬件狀態(tài)數(shù)據(jù)。所有監(jiān)控狀態(tài)的數(shù)據(jù)抓取都受限于驅(qū)動程序。而驅(qū)動程序的編寫人員所關注的重點在于設備的正常運行，而不在于設備的狀態(tài)監(jiān)控。因此，通過驅(qū)動程序所抓取的硬件狀態(tài)參數(shù)始終有限。這也就能解釋，為什么很多客戶在上線了運維監(jiān)控軟件之后，還是需要人工巡檢。我們來看幾個大家經(jīng)常遇到的問題:
事例1:某客戶數(shù)據(jù)庫系統(tǒng)上線，3塊900G硬盤做raid5。當出現(xiàn)一塊壞盤之后，監(jiān)控軟件看不到有壞盤，因為系統(tǒng)還在正常運行。人工巡檢之后，發(fā)現(xiàn)設備上有硬盤告警燈。監(jiān)控軟件下又無法查看到系統(tǒng)是JBOD還是做了raid。巡檢中，數(shù)據(jù)庫服務器出現(xiàn)硬盤告警，監(jiān)控軟件在這種時候卻幫不上忙。如果不是人工巡檢，甚至可能都沒有發(fā)現(xiàn)這個嚴重告警。
事例2:某客戶的核心業(yè)務服務器配置雙電源，卻在一次電源故障中出現(xiàn)了服務器掉電問題。嚴重事故之后，追查責任，才發(fā)現(xiàn)原來雙電源中的備用電源一直處于離線狀態(tài)。系統(tǒng)下的agent無法監(jiān)控到冗余電源離線，因為一直有一個電源在線，供電沒有出現(xiàn)任何問題，因而沒有告警信息出現(xiàn)。最終客戶發(fā)現(xiàn)，監(jiān)控系統(tǒng)上線了，還是得巡檢。
事例3:某客戶想要擴容舊系統(tǒng)上內(nèi)存容量，監(jiān)控軟件顯示內(nèi)存容量為256G。還有多少內(nèi)存槽位呢?機器上是16G*16，還是32G*8呢?監(jiān)控軟件獲取不到!很崩潰，只能去機房拆機器驗內(nèi)存T_T
……
日常工作量大，加班是常態(tài)。還要經(jīng)常面臨設備問題而帶來了業(yè)務中斷風險。監(jiān)控系統(tǒng)上線了，一切都沒有開始好轉。
帶外解帶內(nèi)之困，遠離人工巡檢
從專業(yè)的角度來看，網(wǎng)絡管理可分為帶外管理(out-of-band)和帶內(nèi)管理(in-band)兩種管理模式。上述在系統(tǒng)下，也就是客戶的生產(chǎn)環(huán)境下抓取數(shù)據(jù)，通過生產(chǎn)網(wǎng)絡讀取監(jiān)控數(shù)據(jù)屬于帶內(nèi)管理。這種管理方式，最大的問題就在于當系統(tǒng)出現(xiàn)故障時，機器就無法管理。而且如上所述，獲取的監(jiān)控數(shù)據(jù)有限。而幾乎所有的it設備廠商都為客戶提供帶外管理口，也就是與生產(chǎn)系統(tǒng)相隔離的管理口。管理口下，設備廠商本身就提供了詳細的硬件參數(shù)。這些硬件參數(shù)直接來自于服務器上百多個sensor，直接從硬件層面獲取的狀態(tài)參數(shù)。數(shù)據(jù)更為細節(jié)、全面和直觀。
帶外監(jiān)控通過sensor監(jiān)視服務器狀態(tài)，就像在設備上安裝了上百個攝像頭一樣，時刻巡視設備運行狀態(tài)。冗余電源離線、機器上任一條內(nèi)存容量、內(nèi)存頻率、內(nèi)存槽位信息、HBA卡槽位信息等等，這些帶內(nèi)軟件無法捕捉的信息，都可以通過帶外監(jiān)控獲取。這就等同于人工巡視，拆機驗選件。并且，輪訓所有機器的時間周期要遠遠大于人工巡視的時間周期。帶外監(jiān)控的輪訓周期可以達到秒級，而人工巡檢的工作量大，以日為周期已經(jīng)是相當大的巡檢密度了。通過帶內(nèi)監(jiān)控來彌補帶外監(jiān)控的部分空缺，可以極大的提升運維效率，真正意義上實現(xiàn)無需人工巡檢。
揚帶外之長，建數(shù)據(jù)中心操作系統(tǒng)
帶外管理最大的好處就在于與生產(chǎn)系統(tǒng)相隔離，直接實現(xiàn)與機器對話。這樣效率更高，同時可以有效減少對生產(chǎn)系統(tǒng)的影響?，F(xiàn)在的數(shù)據(jù)中心，通常對所有設備都已經(jīng)建立了比較完善的帶外管理網(wǎng)絡。這一日益完善的架構，不僅僅可以用來做帶外管理，還可以利用其優(yōu)勢構建一個完整的底層DCOS(Data Center Operating System)。揚帶外之長，實施建造一套完整的底層運維架構。
什么是DCOS?
DCOS是為數(shù)據(jù)中心所有設備全生命周期服務的一套管理平臺。簡單的說，是為數(shù)據(jù)中心的設備進行全生命周期的管理，從采購到安裝使用，再到維修、報廢的整個過程服務。
通過DCOS的全生命周期自動化平臺管理，實現(xiàn)部署、監(jiān)控、分析、管理全自動，數(shù)據(jù)中心的無人值守。盡可能的保證服務過程的標準化，減少其中的人為管理。
我們梳理一下DCOS需要完成哪些部分的自動化運維工作。
1.部署
當設備進入數(shù)據(jù)中心，首先通過DCOS進行業(yè)務流程審批，包含上架申請等過程。然后，DCOS對資產(chǎn)進行自動化的驗收，主要檢驗配置是否符合規(guī)范，對各個選件(CPU/內(nèi)存/硬盤等)做自動化的壓力測試?？梢詫崿F(xiàn)選件級別的資產(chǎn)驗證，所有信息都為自動更新采集。如內(nèi)存信息，可以自動收集所有內(nèi)存的插槽信息、容量、頻率等。
設備驗收可以實現(xiàn)選件級設備驗收:如內(nèi)存，可以驗收內(nèi)存總容量，同時可以驗證型號、容量和數(shù)量信息。當設備通過驗收之后，可以通過帶外網(wǎng)絡自動化發(fā)現(xiàn)設備，可以自動化獲取設備上帶有的資產(chǎn)信息，并將設備自動化列入資產(chǎn)管理。
然后從模板庫當中，選擇對應的自動化安裝模板進行全自動化的安裝，包括自動化的陣列卡配置、OS配置，配置標準化的基礎設施給上層資源運維使用。
完成整個過程后，在設備狀態(tài)列表中將設備狀態(tài)更新為已上線的可用狀態(tài)。
整個過程只有上架申請和模板庫選擇模板操作需要人為干預，其它過程均為標準化的自動化流程，可以大大提高部署效率，并減少人為操作帶來的上線質(zhì)量不合格問題。
2.監(jiān)控/分析
監(jiān)控分析是DCOS最核心的功能。為了更好的與上層資源運維做隔離，DCOS采用帶外管理的方式盡量與上層業(yè)務做隔離。這種方式，可以在設備無論上層系統(tǒng)是否正常運行的情況下，都可以對設備進行監(jiān)控分析。且?guī)獾墓芾矸绞?，可以保障帶外的管理工作可以不影響正常的業(yè)務運行效率，同時也在一定程度上保證了業(yè)務數(shù)據(jù)的安全性。
DCOS主要可以從資源、機房、業(yè)務、設備等多種不同的視圖監(jiān)控數(shù)據(jù)中心的各種資源。不同視圖下，可以隨時查看設備的健康狀態(tài)、性能狀態(tài)，可以用列表以及多種圖標形式更加自動化的直觀展現(xiàn)。對于設備異常狀態(tài)可以實現(xiàn)多途徑的告警，包括郵件、短信、微信等形式。DCOS實行多級告警制度，根據(jù)告警的嚴重性分成不同等級。對于部分嚴重警告，可以設置告警升級規(guī)則，將告警自動化上報高層，實現(xiàn)問題的自動化升級。為了避免出現(xiàn)單一故障(如交換機故障)導致的與交換機連接的服務器同時報警所產(chǎn)生的告警風暴，DCOS可以實現(xiàn)對告警進行自動化的收斂，減少批量告警所帶來的不必要的恐慌。通過這種方式，實現(xiàn)百分之百的硬件狀態(tài)查看。
DCOS提供所有服務器遠程虛擬KVM功能，不占用系統(tǒng)資源和網(wǎng)絡資源、不需要安裝代理程序(Agent)。同時，可以節(jié)省大量購買物理KVM費用等設備的采購費用。
DCOS通過帶外方式自動化獲取各個設備的主要性能參數(shù)，以圖形化界面展示，或者生成報表，實現(xiàn)設備資產(chǎn)的大數(shù)據(jù)化，幫助分析設備資產(chǎn)資源利用率，更加合理利用、擴充的配備設備資產(chǎn)。
通過DCOS的監(jiān)控、分析功能，可以有效的替代對于小型機、X86服務器、存儲設備、備份帶庫、光纖交換機等設備的人工機房巡檢。這種方式大大節(jié)省了人工巡檢所需的人力，也提高了巡檢的效率。整個監(jiān)控、分析都有DCOS后臺自動化執(zhí)行，只需要人為干預去處理部分設備故障。調(diào)查顯示，多數(shù)運維事故都是因為人為誤操作而導致。相信大家還記得前不久發(fā)生的Gitlab運維人員誤刪庫，導致Gitlab網(wǎng)站丟失了6小時數(shù)據(jù)。因此人為干預操作的減少，可以避免更多的運維事故。
3.管理
管理部分包括對于數(shù)據(jù)中心資產(chǎn)(服務器、存儲、網(wǎng)絡、UPS、精密空調(diào)等)的資產(chǎn)信息進行管理，其中包含對設備位置的追蹤。以及設備維保情況、工作狀態(tài)等實時狀態(tài)的自動化更新提醒。幫助形成it資產(chǎn)的全局化統(tǒng)一視圖。
除了自動化生成設備數(shù)據(jù)列表，還能通過過濾信息，自動化靈活生成資產(chǎn)報表。同時，可以根據(jù)數(shù)據(jù)中心設備之間的互聯(lián)狀態(tài)，生成設備的邏輯視圖，以及數(shù)據(jù)中心機架的位置視圖。除了資產(chǎn)管理之外，還需要進行知識庫管理，形成運維人員之間，以及運維人員和維保商/廠商之間更快的自動化溝通渠道，讓維保商可以更快的將設備固件更新等信息自動化推送給用戶，減少原有的繁瑣溝通渠道。
DCOS的知識庫也可以幫助運維人員之間實現(xiàn)一個長期的技術知識累計，可以實現(xiàn)技術文檔的快速自動化檢索，讓平臺不僅僅是一個自動化的管理平臺，還是一個很好的技術積累平臺。
部署、監(jiān)控分析和管理三大自動化功能板塊看似互相獨立，實際上實現(xiàn)了數(shù)據(jù)的互聯(lián)互通，為彼此的業(yè)務提供數(shù)據(jù)支撐，形成統(tǒng)一的自動化管理視圖。
未來:“簡生態(tài)”運維系統(tǒng)
數(shù)據(jù)中心運維包含很多的內(nèi)容，從底層往上，包含物理資源、虛擬資源、系統(tǒng)、應用、業(yè)務的運維。復雜度往上逐層遞增。而重要性卻是以底層運維為基礎。
眾所周知，運維部門的多數(shù)的運維工作80%集中在底層物理資源、系統(tǒng)資源運維。這正符合二八定律，我們在花80%的時間做20%的工作內(nèi)容。如果是這樣，我們需要將運維工作做剝離。將這20%的工作從整個運維體系剝離開來，通過帶外網(wǎng)絡架構來進行統(tǒng)一管理，建立一個底層運維的“簡生態(tài)”。用更直觀、更標準化的視圖來簡化這一部分的管理，提升基礎工作的管理效率，實實在在的提升日常運維管理工作的質(zhì)量。這就好像物理設備是水杯，而設備上承載的萬千業(yè)務是水杯里的可樂或者檸檬茶，無論水杯里裝的是什么，帶外管理的任務只負責保障水杯的完整，不會有水杯里的內(nèi)容流失。最最重要的任務，用最簡化的方式來保駕護航，反而能贏得最佳的效果。
