阿里巴巴的云原生應用開源探索與實踐

司徒放(姬風)
EDAS 作為 OAM 的運行時,在讀取到這份部署配置后,它會去實現(xiàn) Trait 提供相應的運維特征動作,比如說運維描述需要一個塊存儲,那么 EDAS 會在阿里云上面去申請一個具體的塊存儲對象,并綁定到這個應用上面。

阿里巴巴的應用架構演進

分享阿里巴巴在云原生應用方面的探索之前,先和大家介紹一下阿里巴巴在整個應用架構方面的演進歷程。

今年是阿里巴巴成立的二十周年,二十年前,阿里巴巴使用的這個應用的架構,還是單體應用模式,它有很多的業(yè)務模塊都在一個應用里面,各個業(yè)務都在一個應用里面開發(fā),這個架構的好處是簡單,也非常容易部署,對小的創(chuàng)業(yè)公司來說是很方便的。它的缺點在于團隊變大變多之后,不能滿足快速迭代要求,因為每一個業(yè)務需要去發(fā)布的時候,都需要在同一個應用上做修改、發(fā)布,當這個業(yè)務迭代非常快的時候,它同時的并發(fā)修改就非常多。

所以在 2008 年,阿里巴巴就引進到了微服務架構,只是當時并不叫微服務,而是叫服務化架構。各個業(yè)務模式就按照服務的邊界來拆分,這是比較松耦合的方式,一個微服務應用是無狀態(tài)的,可以快速擴展實例。而且某個實例有異常比如宕機時會可以自動下線,不會影響整個服務架構的穩(wěn)定性。微服務架構也比較容易推動整個互聯(lián)網公司的快速迭代需求。

大概三年前,阿里巴巴就走向了云原生的架構。這是一個天然適合云的、能夠充分利用云的彈性能力和標準云服務,給整個阿里巴巴的電商降低機器的準備成本,特別是類似于在大促雙十一需要很多機器去支撐,但是大促結束之后,這些機器有一半以上就可以歸還到云上。

這個時候,阿里巴巴就在往云原生的方向去邁進,而且通過整個云服務能夠更快地加快阿里巴巴的技術構建。而且云原生架構,是一個比較開放、標準、沒有侵入性的技術架構。

阿里巴巴在云原生的開源進程

在阿里巴巴進入到了云原生之后,我們看一下阿里巴巴在開源方面做了一些什么樣的事情呢?

運維領域

首先,整個云原生架構里面最重要、最關鍵的一個基石就是 Kubernetes。

阿里巴巴在兩年前,就在大規(guī)模的落地 Kubernetes 的整套技術用來做我們機器資源的調度和管理。在內部有數(shù)十萬臺級別的機器以及上百萬級別的容器規(guī)模,直接拿開源的 Kubernetes 到這種生產規(guī)模下是用不起來的,所以我們在上面做了很多性能優(yōu)化,包括針對規(guī)模上的改造,使得整個 Kubernetes 在阿里巴巴內部能夠很順暢地 run 起來,阿里巴巴也在不斷地向上游去貢獻我們內部實踐和優(yōu)化的代碼。

除了 Kubernetes 之外,在整個云原生生態(tài)里還有像容器、etcd,我們也在不停地優(yōu)化它的規(guī)模能力以及安全隔離方面的一些能力。同時,也開源了內部使用的蜻蜓(Dragonfly)用來做大規(guī)模的鏡像快速分發(fā)。

開發(fā)領域

在開發(fā)領域,阿里巴巴很早就已經使用了微服務架構,也對外進行了開源,比如說 Apache Dubbo,這個是比較知名的 RPC 框架;還有去年開源的 Nacos ,作為阿里巴巴集團支撐大規(guī)模的服務注冊發(fā)現(xiàn)、配置推送一個組件;另外,還有 Spring Cloud Alibaba,基于阿里開源的組件提供了一整套 Spring Cloud 最佳實現(xiàn);還有像支撐整個阿里巴巴高可用的 Sentinel、以及 Apache RocketMQ 消息隊列,都是我們在開發(fā)領域做的開源。

這些組件其實隨著阿里巴巴進入云原生時代之后,也在逐步結合云原生做一些改進,比如說 Apache Dubbo,會更好地去適配我們未來的微服務 Service Mesh 架構,它會理解 Istio 的 xDS 協(xié)議,成為一種數(shù)據(jù)面;比如 Nacos,它為 Service Mesh 的 Istio 提供 MCP 協(xié)議的對接,成為云原生微服務和傳統(tǒng)微服務互通的橋梁。

應用

在開發(fā)領域和運維領域之間,其實我認為還有一個很大的空缺,就是專門用來連接整個開發(fā)和運維的應用這一塊。

對于開發(fā)階段,寫完代碼之后交付的是一個應用包,而這個應用包也是整個運維系統(tǒng)上運行的一個基礎顆粒。我們認為現(xiàn)在在云原生階段,缺少了一個很好的應用交付和運維標準,大家在不同的公司會看到每個公司都有不一樣的運維平臺,應用的部署和交付都沒有辦法被標準化。

我們現(xiàn)在進入云原生時代,推崇的是標準、開放,所以我們認為在這方面還有很大的機會去做進一步的應用標準建設,這是我接下來想要和大家重點分享的一個話題。

云上應用交付和運維的痛點

先看一下云原生在交付和運維方面有哪些痛點呢?

剛剛也講到了,在進入到了微服務之后,我們面臨的一個問題就是應用的實例數(shù)會越來越多,會到成百上千的規(guī)模不斷往上增長;另外還有我們部署的環(huán)境也變得越來越多,比如說現(xiàn)在有不同的云廠商,以及我們有很多專有云的自建機房的輸出;另外還有很多自建的環(huán)境,這些環(huán)境多樣化以及我們應用在運行時它會以容器的方式去運行,可能還是以傳統(tǒng)的虛擬機的方式去運行,或者它會以函數(shù)的方式去運行,但是運行時也會有很多不一致,比如不同的環(huán)境、或運行時的不一致,會導致整個分布式運維體系變得越來越復雜,它的監(jiān)控、日志采集也是一個很大的挑戰(zhàn)。

當這些應用已經放到云上去運行的時候,由于很多的云服務并沒有被標準化,很多這種云的能力需要集成到應用上的時候,也會有很大集成的困難。而這些云上應用運維的痛點以前也有類似的,我們可以跟過往的解決方案做一個對比。

過往解決方案

首先,是類似 Ansible、Puppet 這些基礎設施運維自動化的工具。這些工具對整個運維效率起到了很大的提升作用,減輕了運維同學的工作量,但是它使用的是一些自應用的模塊,而且它的概念是偏向于腳本運維的方式,非常的底層。

隨后出現(xiàn)了類似 Cloud Foundry 、Heroku 這種比較經典的應用平臺,這些應用平臺是以應用為中心去做運維和交付,往上把運維的工作進行了抽象,按照 buildpack 的方式去做運維和交付,通過 buildpack 的方式,可以簡化整個應用運維的工作,但是 buildpack 本身覆蓋的范圍比較窄,在運維和交付方面,缺乏一些運維交付的標準,所以它的可擴展性是比較差的。

隨著 Docker 容器的橫空出世,打破了傳統(tǒng)基于 buildpack 的應用交付模式,所以就出現(xiàn)了新一代的容器管理平臺,而 Kubernetes 成為了云原生時代一個新的容器平臺事實標準。Kubernetes 本身提供了很多基礎服務抽象,比如說 Deployment、Service。在社區(qū)里面它有一句很著名的定位:“Kubernetes is the platform for platforms.”也就是說,Kubernetes 定位是構建平臺的平臺,能夠簡化構建應用平臺的復雜度,它不會再去做上層基于應用的抽象。大家可以發(fā)現(xiàn)歷史總是那么相似,從過去的運維工具到后來基于應用的抽象,到現(xiàn)在容器出現(xiàn)打破運維格局,重新對這個領域進行洗牌,自然在云原生時代需要一個對應交付和運維應用的平臺。

從過往解決方案引發(fā)的思考

關于云原生時代的應用抽象,我們要做一個思考:我們需要什么樣的應用抽象呢?

首先,它需要解決我們運維交付的復雜度,以及屏蔽底層細節(jié)差異。無論什么時候,都是應用平臺需要解決的問題。另外,參考我們過去比較傳統(tǒng)的應用平臺的問題,比如說 buildpack 這種方式,它存在不通用/不易于擴展的問題,我們認為接下來的應用抽象,它應該要具備在應用運維方面更加通用、可擴展的描述能力。

除此之外,我們在推廣應用抽象的時候,還是要采用開源和社區(qū)的方式去推進,因為未來一定是更加標準和開放的,我們推廣這個應用抽象,就是希望有更多開發(fā)和運維工作者,能夠給這個標準提供更多的建議,能夠通過整個社區(qū)進一步推動整個應用交付和運維標準的發(fā)展。

Open Application Model - 開放應用模型

在上個月中旬,阿里云和微軟聯(lián)合發(fā)布了“Open Application Model(開放應用模型)”這一個開源項目。我們希望通過這個開放應用模型,解決“在云原生時代缺乏一種應用交付標準”的問題。(“Open Application Model -開放應用模型”后面簡稱為“OAM”)

OAM 的三種角色

●首先是應用開發(fā)。很明顯,應用開發(fā)是負責編寫業(yè)務邏輯的。比如說它會寫 Spark、Wordpress、Spring Cloud 等微服務的程序,它寫完這個微服務的程序之后呢,會按照 OAM 標準編寫一段應用定義;

●第二個是應用運維的角色,就是負責應用的交付與運維;

●第三個角色是基礎設施平臺?;A設施平臺在 OAM 里的一個重要定位,在于它要將自己的基礎服務能力抽象成可被復用、被重用的模塊,并提供給開發(fā)和運維人員去使用。

OAM 核心概念解讀

下面為大家解讀以上的三個角色對應的三個核心概念。

●首先是 Component。它是被開發(fā)人員定義的一個可被重用的應用組件,這個應用組件描述的就是這個應用它運行的方式;

●第二個重要概念是 Trait。它是一種應用的運維特征,是由基礎設施平臺這個角色定義的,而這個定義它包含了可組合的應用運維特征,這個特征是其實是這個平臺可以提供出來的某種運維能力抽象;

●最后是 ApplicationConfiguration。運維人員負責把 Component 和 Trait 兩個綁定在一起,并且作為一個具體的實例化,生成了這個應用配置(ApplicationConfiguration)之后,就可以把應用部署起來。

用 OAM 描述的應用配置示意

接下來是一個具體的用 OAM 描述的應用配置文件(上圖文件做了一定內容簡化,具體以下面的 yaml 文本為準)。

apiVersion: core.oam.dev/v1alpha1

kind: ComponentSchematic

metadata:

name: wordpress

spec:

workloadType: core.oam.dev/v1alpha1.Server

containers:

- name: test

image: docker/wordpress:latest

env:

- name: key1

fromParam: test-key

ports:

- type: tcp

containerPort: 9999

name: http

parameters:

- name: test-key

type: string

---

apiVersion: core.oam.dev/v1alpha1

kind: ApplicationConfiguration

metadata:

name: wordpress-app

spec:

components:

- name: wordpress

instanceName: wordpress-instance

parameterValues:

- name: replicas

value: 3

- name: test-key

value: value-from-ops

traits:

- name: service

parameterValues:

- name: portMapping

value:

- protocol: "TCP"

port: 52014

targetPort: 9999

- name: rollout

parameterValues:

- name: canaryReplicas

value: 1

由運維人員編寫的 ApplicationConfiquration 文件,它將 Component 和 Trait 兩個概念綁定在一起。首先里面描述運維要部署一個叫 wordpress-app的應用,它引用了一個叫 wordpress 的 Component。這是開發(fā)人員在另一個配置文件 Component 定義的,他除了定義 wordpress 應如何運行(比如配置鏡像位置)以外,還允許運維配置運行實例的副本數(shù)以及運行時環(huán)境變量 `test-key` 的值。在 ApplicationConfiquration 里同時引用了兩個運維特征,運維人員會填寫這個應用需要一個負載均衡,要做外網的端口映射,部署時需要采用金絲雀發(fā)布策略。這個文件對應到實際上的部署階段會變成如上圖右側所示,上面會有一個負載均衡,比如在云上運行時,就會使用 SLB 去做負載均衡的自動分發(fā),會給它配置外網 IP 和內外端口映射。

通過這個簡單的 yaml 文件,大家就可以了解到這個應用怎么做快速部署,并且描述運維要具備什么能力。

OAM 的設計理念

給大家總結一下,我所認為的 OAM 的重要的設計理念。

首先第一個是配置即代碼。所有的 OAM 上面的運維和交付的操作都會使用配置的方式,完全通過 yaml 文件去完成所有的交付運維配置;

第二個是依賴倒置。這個依賴倒置有點像 JAVA Spring 開發(fā)者使用 IoC 或者 DI 的這種模式,在寫這個應用配置的時候,只是依賴應用標準抽象,而這個標準抽象背后的實現(xiàn)實際上是由 OAM 的運行時去做“注入”,通過這個方式就使得我們的應用運維不依賴于我們具體的運行環(huán)境;

第三個是重要的設計理念就是角色關注點分離。剛剛上面講過 OAM 里的三種不同的重要角色:開發(fā)、運維以及基礎設置平臺。這三種角色只需要編寫對應不同的配置文件,互相解耦。這樣開發(fā)不需要關心應用是怎么運維的,只需要把運行時需要的配置暴露并描述出來;基礎平臺只需要把平臺能力提煉成 Trait;最終由運維人員把開發(fā)需要的參數(shù)和運維需要的能力進行結合。

第四個就是整個 OAM 的設計是一個可組合可擴展的方式。它會通過讓我們剛剛說到的 Traits 能夠按需組合、重用、移植和擴展。

EDAS & OAM

上面我們說了這么多其實都是比較一些概念性的東西,接下來我們看一下,在阿里巴巴的云產品 EDAS 對 OAM 所做一些落地方面的嘗試,這也是第一個在實際生產上面基于 OAM 對外可開放使用的云產品。

下面會用 EDAS 為例,給大家做一個介紹,講解一下 OAM 具體怎么運作。

EDAS 是什么?

首先介紹一下 EDAS 是阿里云上面的一個云產品,它扮演著我剛才講到的類似于一個應用平臺的一個角色:

●EDAS 從開發(fā)方面就提供了開發(fā)框架給我們云上的開發(fā)者去使用;

●開發(fā)者開發(fā)完程序之后,會把應用交付到 EDAS 上面去進行部署;

●與此同時 EDAS 會對這個應用進行監(jiān)控診斷,根據(jù)容量情況進行實例彈性伸縮;

●EDAS 會對上面的微服務進行注冊發(fā)現(xiàn)、服務治理;

●提供應用的高可用保護,比如限流降級、熔斷等。

這些是 EDAS 作為應用平臺在阿里云上的產品定位。

EDAS 支持 OAM 的運行示意圖

那么它在支持 OAM 在運行的時候又是什么樣的呢?

如圖所示,一個開發(fā)人員,他首先需要去編寫一個按照 OAM 標準為參考去定義一個 Component。這個 Component 里面會定義如開發(fā)應用類型是什么樣子,比如它的鏡像路徑、它需要多大的存儲空間,以及它的環(huán)境變量是什么樣子,這些都是開發(fā)人員在開發(fā)的時候需要去描述的內容。

對于阿里云來說,它是一個基礎設施平臺的身份。它在上面其實有很多運維的能力,比如說像監(jiān)控報警、塊存儲、需要發(fā)布策略和彈性伸縮的策略。EDAS 會把這些平臺能力抽象成一個一個獨立的 Trait,開放給運維人員使用。

在需要部署應用的時候,運維人員會選擇 EDAS 上提供的 Trait 并填寫相關參數(shù),同時也設置好開發(fā)人員的 Component 的參數(shù),這作為一次應用部署,生成了 ApplicationConfiguration 提交給 EDAS。

EDAS 作為 OAM 的運行時,在讀取到這份部署配置后,它會去實現(xiàn) Trait 提供相應的運維特征動作,比如說運維描述需要一個塊存儲,那么 EDAS 會在阿里云上面去申請一個具體的塊存儲對象,并綁定到這個應用上面。同時 EDAS 會提供一個容器環(huán)境(如 Kubernetes)去運行開發(fā)者定義的 Component 的工作負載,比如購買 ECS,配置好容器環(huán)境,把環(huán)境變量傳給容器,使 Component 能夠正常運行。

以上就是整個 EDAS 支持 OAM 的一個運行示意圖。

EDAS 支持 OAM 的對比

那么 EDAS 在支持 OAM 之后,它的使用情況又會發(fā)生怎樣的變化呢?

在沒有使用 OAM 的時候,客戶需要和系統(tǒng)解釋我要做些什么事情、我要怎么做這個事情。比如說,他需要申請 5G NAS 存儲,并且要把它掛載到某個機器的某個目錄上面;或者他還有一個監(jiān)控的需求,他需要告訴系統(tǒng)現(xiàn)在有一個業(yè)務指標文件,需要被監(jiān)控采集,他要去設置這個文件的指標處理規(guī)則,最后把這個指標存儲成時間序列數(shù)據(jù),并且設置報警閾值。在使用 OAM 之后,它就變成了描述式,他只要描述我需要什么東西就夠了。比如開發(fā)者可以說這個目錄上面需要有 5G 的外置可讀寫存儲就夠了,具體這 5G 存儲怎么申請是由 OAM 運行時去幫助解決的。另外,在監(jiān)控的時候,他只需要描述自己的這個應用需要被監(jiān)控、哪個指標需要被監(jiān)控并報警就夠了,他不需要了解對接到具體是哪一個監(jiān)控系統(tǒng),他不需要去關心這些事情。

原來很多云產品或者原來很多自定義運維平臺都是需要依賴特定的 API 或者 CLI 這種模式去做運維的,這個時候應用要遷移到另外一個運維平臺,它的代碼、鏡像、二進制包可以帶走,但是它的很多運維的設施、運維的配置包括監(jiān)控的配置,這些東西都是只能留在這個平臺上的,沒有辦法很容易地遷移到另外一個平臺上面。而通過 OAM,可以將平臺所有的運維配置以 yaml 導出,并且能夠很快地導入到另外一個環(huán)境、甚至是另一個應用平臺上,整個系統(tǒng)會變得更加標準。

在使用 OAM 以前,運維人員需要去學習很多知識,比如使用的是 Kubernetes,他需要去了解整個容器和 Kubernetes 的使用方式,他要做定制和拓展就需要去學習 Kubernetes。如果他是從虛擬機的模式切換到容器的運維模式,這個時候他就需要很多時間去理解容器和虛擬機運維之間的差異。遷移到 OAM 之后,相當于 OAM 屏蔽了整個平臺底層的細節(jié),所以使得整個運維平臺的 OAM 配置沒有多大差別。

最后一點就是定制的難度上面。剛剛也講到過,這個是 OAM 的一個重要的目標,讓整個運維的擴展能夠更容易的被發(fā)現(xiàn)、被組合、被替換。在使用 OAM 之前,運維的邏輯都散落在腳本里面,或者說都在運維平臺內部,這個時候很難去統(tǒng)一管理。而一套 OAM 的運行環(huán)境是可以自描述的,可以非常容易把平臺提供的 Trait、Component 工作負載羅列出來,使用者可以替換或增加新的 Traits,在運行應用時可以自由選擇和組合這些 Traits。

OAM 后續(xù)規(guī)劃,歡迎社區(qū)貢獻

以上講了 OAM 相關的一些基本內容,實際上 OAM 剛剛開源還有很多需要補充和完善的地方,這里也列出了 OAM 上最近這半年的計劃,希望大家能夠參與社區(qū),在上面貢獻更多的想法。

主要有幾個規(guī)劃:

●易用性方面

●提供 Kubernetes 一鍵導入工具;

●增加應用之間的依賴描述;

●不斷完善 OAM 的標準定義(Spec);

●社區(qū)提供更多的 OAM 上的實踐案例;

OAM 開發(fā)方面

盡量進一步去做開發(fā)的簡化,包括一些字段的校驗工具、編寫 Controller 框架,方便更高效的開發(fā) Trait 等實現(xiàn);

另外,OAM 它本身不僅僅是一個標準,它還提供了一個名為 Rudr 的參考開源實現(xiàn);

功能方面

提供新的基礎 Traits 去簡化應用運維管理,比如常見的流量管理、藍綠發(fā)布;

能對接更多的應用平臺,比如說像 Windows、IoT 這樣的平臺。

最后,我的演講就到這里,謝謝大家!

THEEND

最新評論(評論僅代表用戶觀點)

更多
暫無評論