GKE 和 GKE On-Prem 的多區域部署

本主題說明在 GKE 上部署 Apigee hybrid 和 Anthos GKE 的多區域部署作業。

多地區部署的拓撲包括:

  • Active-Active:如果您在多個地理位置部署應用程式,且需要低延遲的 API 回應,您可以選擇在距離客戶最近的多個地理區域部署混合式雲端。例如:美國西岸、美國東岸、歐洲、亞太/澳洲/紐西蘭。
  • 主動-被動:當您有主要區域和容錯或災難復原區域時。

多區域混合式部署中的區域會透過 Cassandra 進行通訊,如下圖所示:

負載平衡 MART 連線

每個區域叢集都必須有自己的 MART IP 和主機名稱,但您只需要將管理層連結至其中一個叢集即可。Cassandra 會將資訊傳播至所有叢集。如要讓 MART 維持高可用性,最佳做法是負載平衡個別的 MART IP 位址,並設定貴機構與負載平衡的 MART URL 通訊。

必要條件

為多個區域設定混合式連線之前,您必須完成下列先決條件:

  • 在多個區域中設定具有不同 CIDR 區塊的 Kubernetes 叢集
  • 設定跨區域通訊
  • 在所有區域的 Kubernetes 叢集之間開啟 Cassandra 通訊埠 7000 和 7001 (7000 可用於疑難排解時做為備用選項)。另請參閱「設定連接埠」。

詳情請參閱 Kubernetes 說明文件。

設定多區域種子主機

本節說明如何將現有的 Cassandra 叢集擴展至新區域。這項設定可讓新區域啟動叢集,並加入現有的資料中心。如果沒有這項設定,多區域 Kubernetes 叢集就不會彼此互通。

  1. 執行下列 kubectl 指令,即可找出目前區域中 Cassandra 的種子主機位址。

    種子主機位址可讓新的區域例項在首次啟動時找到原始叢集,以便瞭解叢集的拓撲。種子主機位址會指定為叢集中的聯絡點。

    kubectl get pods -o wide -n apigee
    
    NAME                      READY   STATUS      RESTARTS   AGE   IP          NODE                                          NOMINATED NODE
    apigee-cassandra-default-0        1/1     Running     0          5d    10.0.0.11   gke-k8s-dc-2-default-pool-a2206492-p55d
    apigee-cassandra-default-1        1/1     Running     0          5d    10.0.2.4    gke-k8s-dc-2-default-pool-e9daaab3-tjmz
    apigee-cassandra-default-2        1/1     Running     0          5d    10.0.3.5    gke-k8s-dc-2-default-pool-e589awq3-kjch
  2. 決定先前指令傳回的哪些 IP 將成為多區域種子主機。
  3. 這個步驟的設定取決於您使用的是 GKE 還是 GKE On-Prem:

    僅限 GKE: 在資料中心 2 中,請在「管理執行階段平面元件」中設定 cassandra.multiRegionSeedHostcassandra.datacenter,其中 multiRegionSeedHost 是先前指令傳回的 IP 之一:

    cassandra:
      multiRegionSeedHost: seed_host_IP
      datacenter: data_center_name
      rack: rack_name

    例如:

    cassandra:
      multiRegionSeedHost: 10.0.0.11
      datacenter: "dc-2"
      rack: "ra-1"

    僅限 GKE 內部: 在資料中心 2 中,在覆寫檔案中設定 cassandra.multiRegionSeedHost,其中 multiRegionSeedHost 是先前指令傳回的 IP 之一:

    cassandra:
      hostNetwork: true
      multiRegionSeedHost: seed_host_IP
    

    例如:

    cassandra:
      hostNetwork: true
      dnsPolicy: ClusterFirstWithHostNet
      multiRegionSeedHost: 10.0.0.11
    

  4. 在新資料中心/區域中,在安裝混合型服務前,請在 overrides.yaml 中設定與第一個區域相同的 TLS 憑證和憑證。

設定新區域

設定種子主機後,您就可以設定新的區域。

如要設定新的區域,請按照下列步驟操作:

  1. 將憑證從現有叢集複製到新叢集。Cassandra 和其他混合式元件會使用新的 CA 根目錄,以便進行 mTLS。因此,叢集中的憑證必須保持一致。
    1. 將內容設定為原始命名空間:
      kubectl config use-context original-cluster-name
    2. 將目前的命名空間設定匯出至檔案:
      $ kubectl get namespace  -o yaml > apigee-namespace.yaml
    3. apigee-ca 密鑰匯出至檔案:
      kubectl -n cert-manager get secret apigee-ca -o yaml > apigee-ca.yaml
    4. 將結構定義設為新區域的叢集名稱:
      kubectl config use-context new-cluster-name
    5. 將命名空間設定匯入新叢集。如果您在新區域中使用其他命名空間,請務必更新檔案中的「命名空間」:
      kubectl apply -f apigee-namespace.yaml
    6. 將 Secret 匯入新叢集:

      kubectl -n cert-manager apply -f apigee-ca.yaml
  2. 在新區域中安裝混合式。請確認 overrides-DC_name.yaml 檔案包含與第一個區域相同的 TLS 憑證,如前一個部分所述。

    執行下列兩個指令,即可在新區域中安裝混合型:

    apigeectl init -f overrides/overrides-DC_name.yaml
    apigeectl apply -f overrides/overrides-DC_name.yaml
  3. 在新資料中心的所有 Pod 上依序執行 nodetool rebuild。視資料大小而定,這項作業可能需要數分鐘至數小時才能完成。
    kubectl exec apigee-cassandra-default-0 -n apigee  -- nodetool rebuild -- dc-1
  4. 請透過記錄檔確認重建程序。此外,請使用 nodetool status 指令驗證資料大小:
    kubectl logs apigee-cassandra-default-0 -f -n apigee

    以下範例顯示記錄項目:

    INFO  01:42:24 rebuild from dc: dc-1, (All keyspaces), (All tokens)
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Executing streaming plan for Rebuild
    INFO  01:42:24 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.1.45
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.432KiB), sending 0 files(0.000KiB)
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.1.45 is complete
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.4.36
    INFO  01:42:25 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Starting streaming to /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 1 files(0.693KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.4.36 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889, ID#0] Beginning stream session with /10.12.5.22
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889 ID#0] Prepare completed. Receiving 3 files(0.720KiB), sending 0 files(0.000KiB)
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] Session with /10.12.5.22 is complete
    INFO  01:42:26 [Stream #3a04e810-580d-11e9-a5aa-67071bf82889] All sessions completed
  5. 更新種子主機。從 overrides-DC_name.yaml 中移除 multiRegionSeedHost: 10.0.0.11,然後重新套用。
    apigeectl apply -f overrides/overrides-DC_name.yaml

檢查 Cassandra 叢集狀態

下列指令可用於查看叢集設定是否在兩個資料中心中成功。這個指令會檢查兩個區域的 nodetool 狀態。

kubectl exec apigee-cassandra-default-0 -n apigee -- nodetool status


Datacenter: us-central1
=======================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.12.1.45  112.09 KiB  256          100.0%            3c98c816-3f4d-48f0-9717-03d0c998637f  ra-1
UN  10.12.4.36  95.27 KiB  256          100.0%            0a36383d-1d9e-41e2-924c-7b62be12d6cc  ra-1
UN  10.12.5.22  88.7 KiB   256          100.0%            3561f4fa-af3d-4ea4-93b2-79ac7e938201  ra-1
Datacenter: us-west1
====================
Status=Up/Down
|/ State=Normal/Leaving/Joining/Moving
--  Address     Load       Tokens       Owns (effective)  Host ID                               Rack
UN  10.0.4.33   78.69 KiB  256          0.0%              a200217d-260b-45cd-b83c-182b27ff4c99  ra-1
UN  10.0.0.21   78.68 KiB  256          0.0%              9f3364b9-a7a1-409c-9356-b7d1d312e52b  ra-1
UN  10.0.1.26   15.46 KiB  256          0.0%              1666df0f-702e-4c5b-8b6e-086d0f2e47fa  ra-1