DaemonSet?控制器:概念、原理
1.1?DaemonSet 概述
DaemonSet 控制器能夠確保?k8s?集群所有的節點都運行一個相同的?pod?副本,當向?k8s?集群中增
加?node?節點時,這個?node?節點也會自動創建一個?pod?副本,當?node?節點從集群移除,這些?pod?也 會自動刪除;刪除?Daemonset?也會刪除它們創建的?pod
1. 2 ? Daemonset?工作原理:如何管理?Pod?
daemonset?的控制器會監聽?kuberntes?的?daemonset?對象、pod?對象、node?對象,這些被監 聽的對象之變動,就會觸發?syncLoop?循環讓?kubernetes?集群朝著?daemonset?對象描述的狀態進行 演進。
1.3 Daemonset?典型的應用場景
在集群的每個節點上運行存儲,比如:glusterd?或?ceph。?
在每個節點上運行日志收集組件,比如:flunentd?、?logstash、filebeat?等。
?在每個節點上運行監控組件,比如:Prometheus、?Node Exporter?、collectd?等。
?1.4 DaemonSet?與?Deployment?的區別
Deployment?部署的副本?Pod?會分布在各個?Node?上,每個?Node?都可能運行好幾個副本。?DaemonSet?的不同之處在于:每個?Node?上最多只能運行一個副本。
DaemonSet?資源清單文件編寫技巧
kubectl explain ds
apiVersion <string> #當前資源使用的?api?版本,跟?VERSION: app/v1保持一致
kind <string> #資源類型,跟?KIND: DaemonSet?保持一致?
metadata<Object> #元數據,定義?DaemonSet?名字的
spec <Object> #定義容器的
status <Object> #狀態信息,不能改
DaemonSet?的?spec?字段kubectl explain ds.spec
FIELDS:
minReadySeconds <integer> #當新的?pod?啟動幾秒種后,再?kill?掉舊的?pod。?revisionHistoryLimit <integer> #歷史版本
selector <Object> -required- #用于匹配?pod?的標簽選擇器
template <Object> -required-
#定義?Pod?的模板,基于這個模板定義的所有?pod?是一樣的?
updateStrategy #daemonset?的升級策略
#查看?DaemonSet?的?spec.template?字段如何定義?
#對于?template?而言,其內部定義的就是?pod,pod?模板是一個獨立的對象
kubectl explain ds.spec.template
KIND: DaemonSet
VERSION:? apps/v1
RESOURCE: template <Object>
FIELDS:
? ?metadata? ? <Object>
? ?spec <Object> ??
FIELDS:
? metadata? ? <Object>
DaemonSet 部署日志收集組件?fluentd
把?fluentd-2-5-1.tar.gz?上傳到 所有節點上. ? ?
#編寫一個?DaemonSet?資源清單
cat daemonset.yaml
apiVersion: apps/v1
kind: DaemonSet
metadata:
? labels:
? ? k8s-app: fluentd-logging
? name: fluentd-elasticsearch
? namespace: kube-system
spec:
? selector:
? ? matchLabels:
? ? ? name: fluentd-elasticsearch
? template:
? ? metadata:
? ? ? name: fluentd
? ? ? labels:
? ? ? ? name: fluentd-elasticsearch
? ? spec:
? ? ? tolerations:
? ? ? - key: node-role.kubernetes.io/master
? ? ? ? effect: NoSchedule
? ? ? containers:
? ? ? - name: fluentd-elasticsearch
? ? ? ? image: god/fluentd:v2.5.1
? ? ? ? resources:
? ? ? ? ? limits:
? ? ? ? ? ? memory: 500Mi
? ? ? ? ? requests:
? ? ? ? ? ? cpu: 100m
? ? ? ? ? ? memory: 200Mi
? ? ? ? volumeMounts:
? ? ? ? - name: varlog
? ? ? ? ? mountPath: /var/log
? ? ? ? - name: varlibdockercontainers
? ? ? ? ? mountPath: /var/lib/docker/containers
? ? ? ? ? readOnly: true
? ? ? terminationGracePeriodSeconds: 30
? ? ? volumes:
? ? ? - name: varlog
? ? ? ? hostPath:
? ? ? ? ? path: /var/log
? ? ? - name: varlibdockercontainers
? ? ? ? hostPath:
? ? ? ? ? path: /var/lib/docker/containers
更新
kubectl apply -f daemonset.yaml
指定 kube-system名稱空間
kubectl get daemonset -n kube-system
NAME? ? ? ? ? ? ? ? ? ? DESIRED? CURRENT? READY? UP-TO-DATE? AVAILABLE? NODE SELECTOR? ? ? ? ? ? AGE
calico-node? ? ? ? ? ? 3? ? ? ? 3? ? ? ? 3? ? ? 3? ? ? ? ? ? 3? ? ? ? ? kubernetes.io/os=linux? 18d
fluentd-elasticsearch? 3? ? ? ? 3? ? ? ? 3? ? ? 3? ? ? ? ? ? 3? ? ? ? ? <none>? ? ? ? ? ? ? ? ? 3m9s
kube-proxy? ? ? ? ? ? ? 3? ? ? ? 3? ? ? ? 3? ? ? 3? ? ? ? ? ? 3? ? ? ? ? kubernetes.io/os=linux? 18d
kubectl get pods -n kube-system ? ? ??
萬一沒有fluentd-elasticsearch的話,看daemonset詳細信息或者重啟kubelet
systemctl restart Kubelet ?重啟對pod沒有影響。跟apiserver交互的
kubectl describe daemonset fluentd-elasticsearch -n kube-system
kubectl get pods -n kube-system -o wide
#通過上面可以看到在?k8s?的三個節點均創建了?fluentd?這個?pod?
#pod?的名字是由控制器的名字-隨機數組成的
#資源清單詳細說明
apiVersion: apps/v1 #DaemonSet?使用的?api?版本
kind: DaemonSet #?資源類型?
metadata:
name: fluentd-elasticsearch ? ? ? ?#資源的名字
namespace: kube-system ? ?#資源所在的名稱空間
labels:?
k8s-app: fluentd-logging. ??#資源具有的標簽
?spec:
selector: #標簽選擇器
?matchLabels:
name: fluentd-elasticsearch
?template:
metadata:
labels: ? ? ? ? ?#?基于這回模板定義的?pod?具有的標簽
name: fluentd-elasticsearch?
spec:
tolerations: #定義容忍度
- key: node-role.kubernetes.io/master
effect: NoSchedule?
containers: ? ? ? ? ? ?#定義容器
- name: fluentd-elasticsearch
image: god/fluentd:v2.5.1 ? ??
resources: ? ?#資源配額
limits:
memory: 200Mi
requests:
cpu: 100m memory: 200Mi
volumeMounts: - name: varlog?
mountPath: /var/log ? ? ? ? ? ?#把本地的/var/log目錄掛在到容器
?- name: varlibdockercontainers
mountPath: /var/lib/docker/containers ? ? ?#把/var/lib/docker/containers/掛載到容器里
readOnly: true #掛載目錄是只讀權限
terminationGracePeriodSeconds: 30 #優雅的關閉服務?
volumes:
- name: varlog hostPath:
path: /var/log #基于本地目錄創建一個卷?
- name: varlibdockercontainers
hostPath:
path: /var/lib/docker/containers ? ? #基于本地目錄創建一個卷
Daemonset?管理?pod:滾動更新
#DaemonSet?實現?pod?的滾動更新
#查看?daemonset?的滾動更新策略
kubectl explain ds.spec.updateStrategy
#查看?rollingUpdate?支持的更新策略?
kubectl explain ds.spec.updateStrategy.rollingUpdate
KIND: DaemonSet
VERSION:? apps/v1
RESOURCE: rollingUpdate <Object>
DESCRIPTION:
? ? Rolling update config params. Present only if type = "RollingUpdate".
? ? Spec to control the desired behavior of daemon set rolling update.
#上面表示?rollingUpdate?更新策略只支持?maxUnavailabe,先刪除在更新;因為我們不支持一 個節點運行兩個?pod,因此需要先刪除一個,在更新一個。
vim daemonset.yaml
kubectl apply -f daemonset.yaml
查看名稱空間# kubectl get daemonset -n kube-system
NAME ? ? ? ? ? ? ? ?DESIRED? CURRENT? READY? UP-TO-DATE? AVAILABLE? NODE SELECTOR? ? ? ? ? ? AGE
calico-node ? ? ? ? ? ? ? ? ? 3 ? ? ? ? ? ? 3? ? ? ? 3 ? ? ? ? ?3? ? ? ? ? ? 3? ? ? ? ? kubernetes.io/os=linux? 18d ?
fluentd-elasticsearch ? ? ?3 ? ? ? ? ?3 ? ? ? ? 2 ? ? ? ?1? ? ? ? ? ? 2? ? ? ? ? <none>? ? ? ? ? ? ? ? ? 53m
?kube-proxy ? ? ? ? ? ? ? ? ? ? ?3? ? ? ? 3 ? ? ? ? ?3 ? ? ? ? ?3? ? ? ? ? ? 3? ? ? ? ? kubernetes.io/os=linux? 18d
就緒只有2個,可能是控制節點沒有
排錯思路看describe和logs
kubectl describe pods fluentd-elasticsearch-dvl8g -n kube-system
kubectl logs fluentd-elasticsearch-dvl8g -n kube-system ?#在查看日志
nginx: [alert] could not open error log file: open() "/var/log/nginx/error.log" failed (2: No such file or directory)
2021/05/16 11:44:04 [emerg] 1#1: open() "/var/log/nginx/error.log" failed (2: No such file or directory)
#更新鏡像版本,可以按照如下方法:
kubectl set image daemonsets fluentd-elasticsearch=ikubernetes/filebeat:5.6.6- alpine -n kube-system
Job?和?CronJob?控制器:概念、原理
Job?控制器用于管理?Pod?對象運行一次性任務,比方說我們對數據庫備份,可以直接在?k8s?上啟動
一個?mysqldump?備份程序,也可以啟動一個?pod,這個?pod?專門用來備份用的,備份結束?pod?就可 以終止了,不需要重啟,而是將?Pod?對象置于"Completed"(完成)狀態,若容器中的進程因錯誤而終 止,則需要按照重啟策略配置確定是否重啟,對于?Job?這個類型的控制器來說,需不需要重建?pod?就看 任務是否完成,完成就不需要重建,沒有完成就需要重建?pod。?Job?控制器的?Pod?對象的狀態轉換
Job?三種使用場景:
1、非并行任務:只啟一個?pod,pod?成功,job?正常結束?
2、并行任務同時指定成功個數:.spec.completions?為指定成功個數,可以指定也可以不指 定.spec.parallelism(指定>1,會有多個任務并行運行)。當成功個數達到.spec.completions, 任務結束。
3、有工作隊列的并行任務:.spec.completions?默認為?1,.spec.parallelism?為大于?0?的整數。 此時并行啟動多個?pod,只要有一個成功,任務結束,所有?pod?結束
CronJob?概念、原理
? ? ? ?CronJob?跟?Job?完成的工作是一樣的,只不過?CronJob?添加了定時任務能力可以指定時間,實現周期性運行。Job,CronJob?和?Deployment,DaemonSet?顯著區別在于不需要持續在后臺運行 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? Deployment?主要用于管理無狀態的應用(kubernetes?集群有一些?pod,某一個?pod?出現故障, 刪除之后會重新啟動一個?pod,那么?kubernetes?這個集群中?pod?數量就正常了,更多關注的是群體,這就是無狀態應用)。
使用場景:?
1、在給定時間點只運行一次。?
2、在給定時間點周期性地運行。
CronJob?的典型用法如下:?
1、在給定的時間點調度?Job?運行。
2、創建周期性運行的?Job,例如數據庫備份、發送郵件
Job?控制器:資源清單編寫
#查看?Job?資源對象由哪幾部分組成
kubectl explain Job
Job represents the configuration of a single job. FIELDS:
apiVersion ? ? ? ? ? ? ? #當前?Job?的?api?版本
kind ? ? ? ? ? ? ? ? ? ? ? ???#指定當前的資源類型
metadata ? ? <Object>? ? ? ? ? ? #元數據,定義資源的名字和所在名稱空間?
spec ? ? ? ? ? ? ?<Object> ? ? ? ??#查看?Job?下的?spec?字段
kubectl explain Job.spec
FIELDS:
activeDeadlineSeconds #
通過指定job存活時間,來結束一個job。當
job?運行時間達到?activeDeadlineSeconds?指定的時間后,job?會停止由它啟動的所有任務 (如:pod),并設置?job?的狀態為?failed
backoffLimit #job?建議指定?pod?的重啟策略為?never, 如:.spec.template.spec.restartPolicy = "Never",然后通過?job?的?backoffLimit?來指 定失敗重試次數,在達到?backoffLimit?指定的次數后,job?狀態設置為?failed(默認為?6?次)
completions <integer> #指定?job?啟動的任務(如:pod)成功運行?completions?次,job?才算成功結束
manualSelector <boolean>
parallelism <integer> #指定?job?同時運行的任務(如:pod)個數,Parallelism?默認為?1,如果設置為?0,則?job?會暫定
selector。<object>
template <object>.?-required-
ttlSecondsAfterFinished<integer> #默認情況下,job?異?;蛘叱晒Y束后,包括
job?啟動的任務(pod),都不會被清理掉,因為你可以依據保存的?job?和?pod,查看狀態、
日志,以及調試等。這些用戶可以手動刪除,用戶手動刪除?job,job controller?會級聯刪除 對應的?pod,除了手動刪除,通過指定參數?ttlSecondsAfterFinished?也可以實現自動刪除?job,以及級聯的資源,如:pod。如果設置為?0,job?會被立即刪除。如果不指定,job?則 不會被刪除
#查看?Job?下的?spec.template?字段
#template?為定義?Pod?的模板,Job?通過模板創建?Pod
kubectl explain Job.spec.template.spec
restartPolicy ?#重啟策略,對于?Job,只能設置為?Never?或者OnFailure。對于其他?controller(比如?Deployment)可以設置為?Always?。
?使用Job創建一個一次性任務
vim job.yaml
apiVersion: batch/v1
kind: Job
metadata:
? name: my-busybox-job
spec:
? completions: 6
? parallelism: 3
? backoffLimit: 6
? template:
? ? spec:
? ? ? restartPolicy: Never
? ? ? containers:
? ? ? - name: my-container-job
? ? ? ? image: busybox
? ? ? ? imagePullPolicy: IfNotPresent
? ? ? ? command: ['sh','-c']
? ? ? ? args: ['echo "Welcome xuexi"; sleep 60 ; echo "Next to Meet you"']
更新
kubectl apply -f job.yaml
查看?Job?狀態:
kubectl get Job
kubectl get job
NAME? ? ? ? ? ? COMPLETIONS? DURATION? AGE
my-busybox-job? 3/6? ? ? ? ? 79s? ? ? ? 79s
#查看?pod?狀態
kubectl get pods
kubectl logs my-busybox-job-9lzkc
Welcome xuexi
Next to Meet you
#動態查看?pod?狀態
kubectl get pods -w
kubectl logs my-busybox-job-xmlcb
Welcome xuexi
Next to Meet you
#資源清單文件詳細解讀
apiVersion: batch/v1?
kind: Job
metadata:
name: my-busybox-job spec:
ttlSecondsAfterFinished: 20
completions: 6 ? ? # Job 成功完成?Pod?的總數
parallelism: 3 ? ? ? ?#并行執行的?pod?數量是?3?次?
backoffLimit: 6
template: spec:
restartPolicy: Never ? ? #. 重啟策略默認
pod的重啟策略restartpolicy:pod在遇到故障之后重啟的動作有:
1.always:當容器退出時,總是重啟容器,默認策略
2.onfailure:當容器異常退出(退出狀態碼非0)時,重啟容器
3.nerver:當容器退出時,從不重啟容器
使用CronJob創建周期性的定時任務
cat cronjob.yaml
apiVersion: batch/v1beta1
kind: CronJob
metadata:
? name: hello
spec:
? schedule: "*/1 * * * *"
? jobTemplate:
? ? spec:
? ? ? template:
? ? ? ? spec:
? ? ? ? ? containers:
? ? ? ? ? - name: hello
? ? ? ? ? ? image: busybox
? ? ? ? ? ? imagePullPolicy: IfNotPresent
? ? ? ? ? ? command:
? ? ? ? ? ? - /bin/sh
? ? ? ? ? ? - -c
? ? ? ? ? ? - data; echo Hello from the Kubernetes cluster
? ? ? ? ? restartPolicy: OnFailure
更新
kubectl apply -f cronjob.yaml
kubectl get cronjob
NAME? ? SCHEDULE? ? ? SUSPEND? ACTIVE? LAST SCHEDULE? AGE
hello? */1 * * * *? False? ? 0? ? ? ? <none>? ? ? ? ? 39s
#從命令的結果可以看出,CronJob?還沒有調度或運行任何?Job。觀察大概一分鐘,等待?CronJob?創建:
kubectl get jobs --watch
NAME? ? ? ? ? ? ? COMPLETIONS? DURATION? AGE
hello-1621232340? 1/1? ? ? ? ? 1s? ? ? ? 62s
hello-1621232400? 1/1? ? ? ? ? 2s? ? ? ? 2s
my-busybox-job? ? 6/6? ? ? ? ? 2m5s? ? ? 20m
#現在可以看到由?hello?這個?cronjob?調度的一個正在運行的?job。
kubectl get cronjob
NAME? ? SCHEDULE? ? ? SUSPEND? ACTIVE? LAST SCHEDULE? AGE
hello? */1 * * * *? False? ? 0? ? ? ? 62s? ? ? ? ? ? 3m41s
#可以看到?hello?這個?CronJob?成功地在?LAST SCHEDULE?中指定的時間點調度了一個作 業。當前有?0?個活動作業,這意味著該作業已經完成或失敗。
kubectl get pods | grep hello
hello-1621232400-qm5w6? ? ? 0/1? ? Completed? 0? ? ? ? ? 2m24s
hello-1621232460-dm56x? ? ? 0/1? ? Completed? 0? ? ? ? ? 83s
hello-1621232520-6rfxb? ? ? 0/1? ? Completed? 0? ? ? ? ? 23s
kubectl logs hello-1621232640-z4vw5
Mon May 17 06:24:09 UTC 2021
Hello from the Kubernetes cluster