K8s -- StatefulSet

概述

RC、Deployment、DaemonSet都是面向無狀態(tài)的服務,它們所管理的Pod的IP、名字,啟停順序等都是隨機的,而StatefulSet是什么?顧名思義,有狀態(tài)的集合,管理所有有狀態(tài)的服務,比如MySQL、MongoDB集群等。

StatefulSet本質(zhì)上是Deployment的一種變體,在v1.9版本中已成為GA版本,它為了解決有狀態(tài)服務的問題,它所管理的Pod擁有固定的Pod名稱,啟停順序,在StatefulSet中,Pod名字稱為網(wǎng)絡標識(hostname),還必須要用到共享存儲。

在Deployment中,與之對應的服務是service,而在StatefulSet中與之對應的headless service,headless service,即無頭服務,與service的區(qū)別就是它沒有Cluster IP(所以無法負載均衡),解析它的名稱時將返回該Headless Service對應的全部Pod的Endpoint列表。

除此之外,StatefulSet在Headless Service的基礎上又為StatefulSet控制的每個Pod副本創(chuàng)建了一個DNS域名,這個域名的格式為:

$(podname).(headless server name)   
FQDN: $(podname).(headless server name).namespace.svc.cluster.local

StatefulSet適用于具有以下特點的應用:

  • 具有固定的網(wǎng)絡標記(主機名)
  • 具有持久化存儲
  • 需要按順序部署和擴展
  • 需要按順序終止及刪除
  • 需要按順序滾動更新

StatefulSet示例

接下來看一些示例,演示下上面所說的特性,以加深理解。

apiVersion: v1
kind: Service
metadata:
  name: nginx
  labels:
    app: nginx
spec:
  ports:
  - port: 80
    name: web
  clusterIP: None
  selector:
    app: nginx
---
apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: web
spec:
  selector:
    matchLabels:
      app: nginx # has to match .spec.template.metadata.labels
  serviceName: "nginx"  #聲明它屬于哪個Headless Service.
  replicas: 3 # by default is 1
  template:
    metadata:
      labels:
        app: nginx # has to match .spec.selector.matchLabels
    spec:
      terminationGracePeriodSeconds: 10
      containers:
      - name: nginx
        image: k8s.gcr.io/nginx-slim:0.8
        ports:
        - containerPort: 80
          name: web
        volumeMounts:
        - name: www
          mountPath: /usr/share/nginx/html
  volumeClaimTemplates:   #可看作pvc的模板
  - metadata:
      name: www
    spec:
      accessModes: [ "ReadWriteOnce" ]
      storageClassName: "gluster-heketi"  #存儲類名,改為集群中已存在的
      resources:
        requests:
          storage: 1Gi

通過該配置文件,可看出StatefulSet的三個組成部分:

  • Headless Service:名為nginx,用來定義Pod網(wǎng)絡標識( DNS domain)。
  • StatefulSet:定義具體應用,名為Nginx,有三個Pod副本,并為每個Pod定義了一個域名。
  • volumeClaimTemplates: 存儲卷申請模板,創(chuàng)建PVC,指定pvc名稱大小,將自動創(chuàng)建pvc,且pvc必須由存儲類供應。

為什么需要 headless service 無頭服務?
在用Deployment時,每一個Pod名稱是沒有順序的,是隨機字符串,因此是Pod名稱是無序的,但是在statefulset中要求必須是有序 ,每一個pod不能被隨意取代,pod重建后pod名稱還是一樣的。而pod IP是變化的,所以是以Pod名稱來識別。pod名稱是pod唯一性的標識符,必須持久穩(wěn)定有效。這時候要用到無頭服務,它可以給每個Pod一個唯一的名稱 。

為什么需要volumeClaimTemplate?
對于有狀態(tài)的副本集都會用到持久存儲,對于分布式系統(tǒng)來講,它的最大特點是數(shù)據(jù)是不一樣的,所以各個節(jié)點不能使用同一存儲卷,每個節(jié)點有自已的專用存儲,但是如果在Deployment中的Pod template里定義的存儲卷,是所有副本集共用一個存儲卷,數(shù)據(jù)是相同的,因為是基于模板來的 ,而statefulset中每個Pod都要自已的專有存儲卷,所以statefulset的存儲卷就不能再用Pod模板來創(chuàng)建了,于是statefulSet使用volumeClaimTemplate,稱為卷申請模板,它會為每個Pod生成不同的pvc,并綁定pv, 從而實現(xiàn)各pod有專用存儲。這就是為什么要用volumeClaimTemplate的原因。

創(chuàng)建:

$ kubectl create -f nginx.yaml 
service "nginx" created
statefulset "web" created

看下這三個Pod創(chuàng)建過程:

#第一個是創(chuàng)建web-0
$ kubectl get pod
web-0                     1/1       ContainerCreating   0          51s

#待web-0 running且ready時,創(chuàng)建web-1
$ kubectl get pod
web-0                     1/1       Running             0          51s
web-1                     0/1       ContainerCreating   0          42s

#待web-1 running且ready時,創(chuàng)建web-2
$ kubectl get pod
web-0                     1/1       Running             0          1m
web-1                     1/1       Running             0          45s
web-2                     1/1       ContainerCreating   0          36s

#最后三個Pod全部running且ready
$ kubectl get pod
NAME                      READY     STATUS    RESTARTS   AGE
web-0                     1/1       Running   0          4m
web-1                     1/1       Running   0          3m
web-2                     1/1       Running   0          1m

根據(jù)volumeClaimTemplates自動創(chuàng)建的PVC

$ kubectl get pvc
NAME              STATUS    VOLUME                                  CAPACITY   ACCESS MODES   STORAGECLASS     AGE
www-web-0         Bound     pvc-ecf003f3-828d-11e8-8815-000c29774d39   2G        RWO          gluster-heketi   7m
www-web-1         Bound     pvc-0615e33e-828e-11e8-8815-000c29774d39   2G        RWO          gluster-heketi   6m
www-web-2         Bound     pvc-43a97acf-828e-11e8-8815-000c29774d39   2G        RWO          gluster-heketi   4m

如果集群中沒有StorageClass的動態(tài)供應PVC的機制,也可以提前手動創(chuàng)建多個PV、PVC,手動創(chuàng)建的PVC名稱必須符合之后創(chuàng)建的StatefulSet命名規(guī)則:(volumeClaimTemplates.name)-(pod_name)

Statefulset名稱為web 三個Pod副本: web-0,web-1,web-2,volumeClaimTemplates名稱為:www,那么自動創(chuàng)建出來的PVC名稱為www-web[0-2],為每個Pod創(chuàng)建一個PVC。

規(guī)律總結(jié):

  • 匹配Pod name(網(wǎng)絡標識)的模式為:$(statefulset名稱)-$(序號),比如上面的示例:web-0,web-1,web-2。
  • StatefulSet為每個Pod副本創(chuàng)建了一個DNS域名,這個域名的格式為: $(podname).(headless server name),也就意味著服務間是通過Pod域名來通信而非Pod IP,因為當Pod所在Node發(fā)生故障時,Pod會被飄移到其它Node上,Pod IP會發(fā)生變化,但是Pod域名不會有變化。
  • StatefulSet使用Headless服務來控制Pod的域名,這個域名的FQDN為:$(service name).$(namespace).svc.cluster.local,其中,“cluster.local”指的是集群的域名。
  • 根據(jù)volumeClaimTemplates,為每個Pod創(chuàng)建一個pvc,pvc的命名規(guī)則匹配模式:(volumeClaimTemplates.name)-(pod_name),比如上面的volumeMounts.name=www, Pod name=web-[0-2],因此創(chuàng)建出來的PVC是www-web-0、www-web-1、www-web-2。
  • 刪除Pod不會刪除其pvc,手動刪除pvc將自動釋放pv。
    關(guān)于Cluster Domain、headless service名稱、StatefulSet 名稱如何影響StatefulSet的Pod的DNS域名的示例:
Cluster Domain  Service (ns/name)   StatefulSet (ns/name)   StatefulSet Domain  Pod DNS Pod Hostname
cluster.local   default/nginx   default/web nginx.default.svc.cluster.local web-{0..N-1}.nginx.default.svc.cluster.local    web-{0..N-1}
cluster.local   foo/nginx   foo/web nginx.foo.svc.cluster.local web-{0..N-1}.nginx.foo.svc.cluster.local    web-{0..N-1}
kube.local  foo/nginx   foo/web nginx.foo.svc.kube.local    web-{0..N-1}.nginx.foo.svc.kube.local   web-{0..N-1}

Statefulset的啟停順序:

  • 有序部署:部署StatefulSet時,如果有多個Pod副本,它們會被順序地創(chuàng)建(從0到N-1)并且,在下一個Pod運行之前所有之前的Pod必須都是Running和Ready狀態(tài)。
  • 有序刪除:當Pod被刪除時,它們被終止的順序是從N-1到0。
  • 有序擴展:當對Pod執(zhí)行擴展操作時,與部署一樣,它前面的Pod必須都處于Running和Ready狀態(tài)。

Statefulset Pod管理策略:
在v1.7以后,通過允許修改Pod排序策略,同時通過.spec.podManagementPolicy字段確保其身份的唯一性。

  • OrderedReady:上述的啟停順序,默認設置。
  • Parallel:告訴StatefulSet控制器并行啟動或終止所有Pod,并且在啟動或終止另一個Pod之前不等待前一個Pod變?yōu)镽unning and Ready或完全終止。

StatefulSet使用場景:

  • 穩(wěn)定的持久化存儲,即Pod重新調(diào)度后還是能訪問到相同的持久化數(shù)據(jù),基于PVC來實現(xiàn)。
  • 穩(wěn)定的網(wǎng)絡標識符,即Pod重新調(diào)度后其PodName和HostName不變。
  • 有序部署,有序擴展,基于init containers來實現(xiàn)。
  • 有序收縮。

更新策略

在Kubernetes 1.7及更高版本中,通過.spec.updateStrategy字段允許配置或禁用Pod、labels、source request/limits、annotations自動滾動更新功能。

OnDelete:通過.spec.updateStrategy.type 字段設置為OnDelete,StatefulSet控制器不會自動更新StatefulSet中的Pod。用戶必須手動刪除Pod,以使控制器創(chuàng)建新的Pod。

RollingUpdate:通過.spec.updateStrategy.type 字段設置為RollingUpdate,實現(xiàn)了Pod的自動滾動更新,如果.spec.updateStrategy未指定,則此為默認策略。
StatefulSet控制器將刪除并重新創(chuàng)建StatefulSet中的每個Pod。它將以Pod終止(從最大序數(shù)到最小序數(shù))的順序進行,一次更新每個Pod。在更新下一個Pod之前,必須等待這個Pod Running and Ready。

Partitions:通過指定 .spec.updateStrategy.rollingUpdate.partition 來對 RollingUpdate 更新策略進行分區(qū),如果指定了分區(qū),則當 StatefulSet 的 .spec.template 更新時,具有大于或等于分區(qū)序數(shù)的所有 Pod 將被更新。

具有小于分區(qū)的序數(shù)的所有 Pod 將不會被更新,即使刪除它們也將被重新創(chuàng)建。如果 StatefulSet 的 .spec.updateStrategy.rollingUpdate.partition 大于其 .spec.replicas,則其 .spec.template 的更新將不會傳播到 Pod。在大多數(shù)情況下,不需要使用分區(qū)。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內(nèi)容