Flink On K8s 架構(gòu)

image.png

Flink 任務(wù)在 Kubernetes 上運(yùn)行的步驟有：

●首先往 Kubernetes 集群提交了資源描述文件后，會(huì)啟動(dòng) Master 和 Worker 的 container。
●Master Container 中會(huì)啟動(dòng) Flink Master Process，包含 Flink-Container ResourceManager、JobManager 和 Program Runner。
●Worker Container 會(huì) 啟 動(dòng) TaskManager， 并 向 負(fù) 責(zé) 資 源 管 理 的 ResourceManager 進(jìn)行注冊(cè)，注冊(cè)完成之后，由 JobManager 將具體的任務(wù)分給 Container，再由 Container 去執(zhí)行。
●需要說明的是，在 Flink 里的 Master 和 Worker 都是一個(gè)鏡像，只是腳本的命令不一樣，通過參數(shù)來選擇啟動(dòng) master 還是啟動(dòng) Worker

JobManager 的執(zhí)行過程分為兩步 :

●首先，JobManager 通過 Deployment 進(jìn)行描述，保證 1 個(gè)副本的 Conainer 運(yùn)行 JobManager，可以定義一個(gè)標(biāo)簽，例如 flink-jobmanager。
●其次，還需要定義一個(gè) JobManager Service，通過 service name 和 port 暴露 JobManager 服務(wù)，通過標(biāo)簽選擇對(duì)應(yīng)的 pods。

Flink on Kubernetes-TaskManager：

TaskManager 也是通過 Deployment 來進(jìn)行描述，保證 n 個(gè)副本的 Container 運(yùn)行 TaskManager，同時(shí)也需要定義一個(gè)標(biāo)簽，例如 flink-taskmanager。

對(duì)于 JobManager 和 TaskManager 運(yùn)行過程中需要的一些配置文件，如：flink-conf.yaml、hdfs-site.xml、core-site.xml，可以通過將它們定義為 ConfigMap 來實(shí)現(xiàn)配置的傳遞和讀取

image.png

整個(gè)交互的流程比較簡(jiǎn)單，用戶往 Kubernetes 集群提交定義好的資源描述文件即可，例如 deployment、configmap、service 等描述。后續(xù)的事情就交給 Kubernetes 集群自動(dòng)完成。Kubernetes 集群會(huì)按照定義好的描述來啟動(dòng) pod，運(yùn)行用戶程序。各個(gè)組件的具體工作如下：

●Service: 通過標(biāo)簽 (label selector) 找到 job manager 的 pod 暴露服務(wù)。
●Deployment：保證 n 個(gè)副本的 container 運(yùn)行 JM/TM，應(yīng)用升級(jí)策略。
●ConfigMap：在每個(gè) pod 上通過掛載 /etc/flink 目錄，包含 flink-conf.yaml 內(nèi)容。

?Session Cluster 模式

? 啟動(dòng)
    ?kubectl create -f jobmanager-service.yaml
    ?kubectl create -f jobmanager-deployment.yaml
    ?kubectl create -f taskmanager-deployment.yaml
?Submit job
    ?kubectl port-forward service/flink-jobmanager 8081:8081
    ?bin/flink run -d -m localhost:8081 ./examples/streaming/

TopSpeedWindowing.jar
? 停止
?kubectl delete -f jobmanager-deployment.yaml
?kubectl delete -f taskmanager-deployment.yaml
?kubectl delete -f jobmanager-service.yaml

首先啟動(dòng) Session Cluster，執(zhí)行上述三條啟動(dòng)命令就可以將 Flink 的 Job-Manager-service、jobmanager-deployment、taskmanager-deployment 啟動(dòng)起來。啟動(dòng)完成之后用戶可以通過接口進(jìn)行訪問，然后通過端口進(jìn)行提交任務(wù)。若想銷毀集群，直接用 kubectl delete 即可，整個(gè)資源就可以銷毀。

配置文件示例

image.png

image.png

● Job Cluster 模式

除了 Session 模式，還有一種 Per Job 模式。在 Per Job 模式下，需要將用戶代碼都打到鏡像里面，這樣如果業(yè)務(wù)邏輯的變動(dòng)涉及到 Jar 包的修改，都需要重新生成鏡像，整個(gè)過程比較繁瑣，因此在生產(chǎn)環(huán)境中使用的比較少。
以使用公用 docker 倉(cāng)庫(kù)為例，Job Cluster 的運(yùn)行步驟如下：

● build 鏡像：在 flink/flink-container/docker 目錄下執(zhí)行 build.sh 腳本
● 上傳鏡像：在 hub.docker.com 上需要注冊(cè)賬號(hào)和創(chuàng)建倉(cāng)庫(kù)進(jìn)行上傳鏡像。
docker tag topspeed zkb555/topspeedwindowing
docker push zkb555/topspeedwindowing

● 啟動(dòng)任務(wù)：在鏡像上傳之后，可以啟動(dòng)任務(wù)。
kubectl create -f job-cluster-service.yaml
FLINK_IMAGE_NAME=zkb555/topspeedwindowing:latest FLINK_JOB=org.apache.flink.streaming.examples.windowing.TopSpeedWindowing FLINK_JOB_PARALLELISM=3
envsubst <
job-cluster-job.yaml.template
kubectl create -f -FLINK_IMAGE_NAME=zkb555/topspeedwindowing:latest FLINK_JOB_PARALLELISM=4

envsubst <
task-manager-deployment.yaml.template | kubectl create -f -