服务器与大带宽专家 · 持牌IDC/CDN/ISP服务商
简米科技官网JIANMI TECH
资讯 2026-08-30 更新于 2026-08-30 简米科技 3,913 字 9 分钟阅读

如何设计多主控制面高可用拓扑?,多主控制面高可用部署怎么做

导读Kubernetes多主控制面高可用部署的核心,不是简单堆三台Master,而是用拓扑设计让etcd、API Server、调度器各司其职,确保任何一台节点宕机时集群依旧正常响应,为什么你的集群需要多主控制面高可用单主节点架构在测试环境里跑得欢,一上生产就露怯,硬件故障、机房断电、云服务商区域性宕机,随便一个意……

Kubernetes多主控制面高可用部署的核心,不是简单堆三台Master,而是用拓扑设计让etcd、API Server、调度器各司其职,确保任何一台节点宕机时集群依旧正常响应。


为什么你的集群需要多主控制面高可用

单主节点架构在测试环境里跑得欢,一上生产就露怯,硬件故障、机房断电、云服务商区域性宕机,随便一个意外都让开发同学对着Unable to connect to the server干瞪眼。

行业共识认为,生产级Kubernetes集群必须容忍控制面组件故障而不影响业务面工作负载,多主控制面高可用部署要解决的问题很简单:控制面组件全部冗余,且任何时候都有且只有一个“大脑”在发号施令

这里必须分清两个概念:业务面高可用靠Pod副本数,控制面高可用靠拓扑设计,很多人把这两件事混为一谈,结果业务Pod活得好好的,API Server挂了,整个集群不可调度,多主控制面解决的问题是后者,而且是更底层、更致命的问题。

多主控制面高可用核心挑战

脑裂问题:比宕机更可怕的灾难

多主节点部署后,网络分区会让每个Master都认为自己是唯一存活的那个,各自为政,同时写入数据,这就叫脑裂,一旦发生,数据一致性彻底崩溃。

解决办法只有一个:引入quorum机制(法定人数),etcd集群要求写入操作必须获得大多数节点确认才算成功,三节点etcd集群最多容忍一台故障,五节点最多容忍两台,这不是拍脑袋定的数字,是Raft共识算法的数学保证。

负载均衡:把请求精准分发到活着的Master

有了多个Master,kubelet和kubectl该连谁?答案是通过负载均衡器统一暴露6443端口,问题来了:负载均衡器自身的高可用怎么保证?你刚把单点从Master转移到了LB上,等于没解决。

业内专家指出,控制面高可用的完整链路包含三层:负载均衡器高可用、Master节点高可用、etcd数据高可用,三层缺一不可,任何一层单点都会让整个架构功亏一篑。

多主控制面高可用部署架构怎么设计

网络拓扑选型:堆叠式还是独立式

堆叠式etcd:etcd和Master部署在同一批机器上,机器少,成本低,但数据面和控制面资源互相争抢,一个节点挂了,控制面和etcd同时少一个quorum名额,风险集中。

如何设计多主控制面高可用拓扑?,多主控制面高可用部署怎么做

独立式etcd:etcd单独占用三台或五台机器,与Master隔离,资源充裕的话,这是推荐方案,Master挂了,etcd不受影响,新Master可以立即接入;etcd挂了,Master还在,但所有写操作都会失败,集群进入只读状态。

单主多备的折中方案是:三台Master,其中一台兼跑etcd,另外用两台独立etcd节点凑齐三节点etcd集群,这种部署方式适合资源有限的场景,但运维复杂度比纯堆叠式更高。

拓扑设计参考架构

三节点堆叠式:成本最低,适合中小规模集群,三台Master,每台同时跑kube-apiserver、kube-controller-manager、kube-scheduler和etcd,容忍一台故障,优点是架构简单,资源利用率高;缺点是升级时控制面可用性会短暂降级,因为滚动升级时,一台在升级,另一台挂了就完蛋。

五节点独立式:五台etcd,三台Master独立部署,适合大规模生产环境,etcd和Master资源完全隔离,任意一台Master故障不影响其余两台构成quorum,任意两台etcd故障也不会导致写失败。

跨可用区部署:Master节点分布在不同的可用区(AZ),etcd也做跨区冗余,这是云上生产环境的标准做法,能容忍整个可用区失效,代价是网络延迟增加,对于需要极致写性能的场景需要考虑清楚。

多主节点拓扑怎么设计更稳

网络层面,Master节点之间建议使用低延迟的专线或VPC内网互通,跨地域部署不现实,quorum机制要求的是多数派能够通信,网络分区越频繁,集群不可用的概率越高。

存储层面,etcd对磁盘IO敏感度极高,SSD是底线,fdatasync延迟直接影响所有写入请求的响应时间,磁盘抖动会让整个API Server都变慢。

安全层面,Master节点只暴露6443端口给可信网络,其他端口一概关闭,控制面安全组策略建议只允许来自工作节点和运维跳板机的流量访问,避免把Kubernetes管理端口暴露到公网。

多主控制面高可用的选主与数据一致性机制

控制器和调度器:谁在主谁在备

kube-controller-manager和kube-scheduler都有原生的Leader Election机制,它们启动时会尝试获取租约(Lease),

如何设计多主控制面高可用拓扑?,多主控制面高可用部署怎么做

获得租约的节点成为主,其他节点待命,主节点通过续约心跳维持租约,如果多个节拍内没有续约,其他节点开始竞选新主。

默认情况下你会看到三个Master上的kube-controller-manager只有一个是leader,另外两个是standby,这很正常,不是故障。

etcd:高可用数据层的唯一正确答案

Kubernetes所有资源定义、配置信息、集群状态全部存放在etcd,多主控制面高可用部署本质上就是etcd集群的高可用。

etcd使用Raft协议进行选主和数据复制,写入请求到达Leader,Leader将日志复制给Follower,超过半数确认后提交,这个过程中,任何节点持有旧数据都无关紧要,因为多数派原则保证了新Leader必然包含已提交的数据

多主控制面高可用实践:一步步搭建

准备基础设施

  • 至少三台机器(建议4核8G起步,独立式etcd建议8核16G)
  • 操作系统建议Ubuntu 22.04 LTS或Rocky Linux 9
  • 每台机器配置静态IP和主机名解析,Master节点间务必配置SSH免密登录
  • 关闭swap,启用内核模块overlaybr_netfilter

部署负载均衡器

云上方案:简米云SLB、酷番云CLB,配置TCP监听转发6443端口,健康检查路径为/healthz,负载均衡器后面的后端需要绑定所有Master节点的内网IP。

自建方案:keepalived + HAProxy,在每台Master节点上部署HAProxy,VIP漂移机制保证VIP始终指向存活的HAProxy实例。

初始化第一个Master节点

kubeadm init --control-plane-endpoint "10.0.0.100:6443" 
  --apiserver-advertise-address 10.0.0.11 
  --pod-network-cidr 192.168.0.0/16

control-plane-endpoint填负载均衡器的VIP或域名,apiserver-advertise-address填本机IP。

加入其余Master节点

在第一个Master上获取join命令:

kubeadm token create --print-join-command

在另外两台Master上执行,加上--control-plane参数。

验证集群状态

kubectl get nodes
kubectl get pods -n kube-system

control-plane状态为Ready

如何设计多主控制面高可用拓扑?,多主控制面高可用部署怎么做

etcdkube-apiserverkube-controller-managerkube-scheduler四个组件的Pod均为Running状态,说明多主控制面部署成功。

验证高可用能力:直接停掉一台Master上的kubelet服务,然后执行kubectl get nodes,集群依然正常响应,新Pod能正常创建和调度。

多主控制面高可用部署方案对比

部署方案 节点要求 etcd模式 容错能力 适用场景
三节点堆叠 3台 堆叠 容忍1台故障 中小规模,预算有限
独立三节点 5-6台 独立 控制面容忍1台,etcd容忍1台 标准生产环境
五节点跨AZ 8-10台 独立 控制面容忍1台,etcd容忍2台 大型集群,强一致性要求

选择建议:刚上生产环境的项目用三节点堆叠起步完全够用,业务规模扩大后再迁移到独立式,跨AZ部署成本翻倍,但可用性收益显著,金融、电商等场景建议直接上。

多主控制面高可用常见问题

怎么判断当前哪个节点是Leader

kubectl get leases -n kube-system

holderIdentity字段会显示当前持有者,日志排查时也常用这个命令判断主备角色。

偶数节点可行吗

四节点etcd的多数派是3,容错数量是1,和三节点一样但多花一份资源。偶数节点没有收益,etcd官方也不建议使用偶数节点,想提高容错能力直接上五节点,别用四节点。

升级Master节点会不会影响集群可用性

会,所以必须滚动升级,一台一台来,每台升级完成后等待该节点上的组件重新成为Running状态,再升级下一台,升级过程中犄角旮旯可能报错,但quorum始终存活,集群一直处于可用状态。


多主控制面高可用不是选择题,而是生产环境的必答题,用三节点堆叠起步,用五节点独立式应对更大规模,用跨可用区部署保底。
里面写到的kubectl get leases命令是最实用的排查手段,建议收藏。

分享本文
本文为 简米科技官网 原创,已由运维技术专家审核。转载请注明来源:原文链接
售前咨询 服务热线 售后 邮箱