0.前言
参考文档:https://github.com/containernetworking/cni
Pod网络插件,为了实现Pod网络而需要的插件、组件。由于Kubernetes通过开放的CNI接口来允许插件的接入,所以它又称之为CNI网络插件。
为了解决跨主机容器间通信问题,市面上存在很多解决方案,为了兼容和规范这些解决方案,Kubernetes仅设计了网络模型,却将Pod网络的实现交给了CNI网络插件,并允许网络插件通过标准的CNI(Container Network Interface,容器网络接口)连接到容器管理系统。
CNI网络插件主要解决的就是容器跨主机通信问题而存在的,并使跨主机间运行的Pod位于同一个网络平面,其大致解决步骤通常有两步:分配设置自定义容器网络(PodIP在集群中全局唯一性)和实现容器网络通信(处理方法通常有路由、覆盖网络{Vxlan、IPIP}等等)。
每个Pod都会创建一个名叫”pause”的根容器,其他运行的业务容器都是复制该容器的网络,这个容器就是Kubernetes为了自定义网络等特殊功能而存在的。
CNI网络插件分为以下四种:
- MAIN,主要的,创建接口,主要网络的实现。如:bridge、ipvlan、loopback、macvlan、ptp、vlan、host-device。
- Windows,特用于Windows的MAIN插件。如:win-bridge、win-overlay。
- IPAM,仅提供IP地址分配功能。如:dhcp、host-local、static。
- META,其他插件,通过调用第三方插件来实现网络功能。如:tuning、portmap、bandwidth、sbr、firewall、flannel。
光单独靠一种CNI网络插件是无法实现完整的Pod网络通信和更高级的网络策略功能的,第三方组织可以灵活的组合这些CNI插件实现基本Pod网络功能和更高级功能,所以市面上流行出来很多解决方案。
在现今,比较常用的流行的Pod网络解决方案有Flannel和Calico(支持网络策略功能)、Canal(由Flannel实现网络通信+Calico提供网络策略)。
1.Calico概述
参考文档:https://projectcalico.docs.tigera.io/
Calico是一款广泛采用、久经考验的开源网络和网络安全解决方案,适用于Kubernetes、虚拟机和裸机工作负载。与Flannel对比,Calico除了支持基本网络功能的实现之外,它还支持全套Kubernetes网络策略功能,以及在其之上扩展网络策略。
1.1.Calico组件
Calico主要由以下组件组成:
1.1.1.CNI Plugin
CNI网络插件,Calico通过CNI网络插件与kubelet关联,从而实现Pod网络。
1.1.2.Calico Node
Calico节点代理是运行在每个节点上的代理程序,负责管理节点路由信息、策略规则和创建Calico虚拟网络设备。
Calico Node主要由以下子模块程序组成:
- Felix,Calico代理程序。运行在每个节点上的守护进程,它主要负责管理节点上网络接口、为节点创建路由信息和ACL规则、以及报告当前节点网络的健康状态给控制器等工作。
- BIRD-BGP客户端,BIRD是一个项目的简称,全称为BIRD Internet Routing Daemon,BIRD是一个类UNIX系统下旨在开发一个功能齐全的IP路由守护进程,它是一个路由软件,可以实现多种路由协议,如BGP、OSPF、RIP等。在Calico中,BIRD是一个BGP客户端,用于使用BGP协议广播给其他主机动态的学习路由规则。更多了解BIRD可参考:https://bird.network.cz/。
- BIRD-Route Reflector(可扩展的组件),BGP客户端在每个节点上运行,其随着节点数量越来越多,一个BGP客户端需要连接更多数量的其他BGP客户端,其网络连接的数量非常多且网络会变得复杂。在节点之外,允许将BIRD程序配置成”Route Reflector”路由反射器工作方式,BGP客户端可以直接连接到”Route Reflector”路由反射器,而不是很多数量的其他BGP客户端,从而减少网络连接的数量,以提高BGP网络的性能。
1.1.3.Calico Controller
Calico网络策略控制器。允许创建”NetworkPolicy”资源对象,并根据资源对象里面对网络策略定义,在对应节点主机上创建针对于Pod流出或流入流量的IPtables规则。
1.1.4.Calico Typha(可选的扩展组件)
Typha是Calico的一个扩展组件,用于Calico通过Typha直接与Etcd通信,而不是通过kube-apiserver。通常当K8S的规模超过50个节点的时候推荐启用它,以降低kube-apiserver的负载。每个Pod/calico-typha可承载100~200个Calico节点的连接请求,最多不要超过200个。
1.2.Calico网络实现
Calico支持两种类型网络工作模式(后端机制):
如果物理主机在同一2层网络中,则建议采用使用BGP动态路由通信方式;如果物理主机是跨子网通信的话,可能由于到达目标主机的跳数太多导致性能下降,所以建议使用覆盖网络模式。
1.2.1.动态路由模式(dynamic routing)
采用BGP动态路由协议自动学习来自其他AS自治系统上的路由条目,即其他节点主机上的路由条目。
类似于Flannel的Host-GW模式,不过它没有不能跨子网的限制。
想要更多了解BGP动态路由技术,可以参考其他网络资料,这里就不过多的阐述了。
1.2.2.覆盖网络模式(overlay network)
采用IPIP或VXLAN协议封装底层网络,然后通过上层物理覆盖网络通信。
将底层的Pod网络源目IP+数据封装到上层物理网络源目IP的数据包中,由同一个网络的物理主机通过直连路由完成数据包的传输和解封装,以实现底层Pod网络通信。
Calico对于覆盖网络的工作模式有:
- IPIP,使用IPIP封装协议。当IPIP启用的时候不允许启用VXLAN。
- VXLAN,使用VXLAN封装协议。当VXLAN启用的时候不允许启用IPIP。
- IPIPCrossSubnet,当物理主机是跨子网的情况下才使用IPIP覆盖网络通信方式,正常情况下使用BGP路由模式。
- VXLANCrossSubnet,当物理主机是跨子网的情况下才使用VXLAN覆盖网络通信方式,正常情况下使用BGP路由模式。
- None,不使用IPIP或VXLAN覆盖网络模式。
IPIP比VxLAN的数据包头更小,但安全性较差。
虚接口:IPIP默认创建的三层虚接口通常叫”tunl0″,而VXLAN默认创建的三层虚接口叫”vxlan.calico”。三层虚接口通常负责数据包的封装和解封装工作。
1.3.了解Calico对CIDR子网的划分(blockSize)
CIDR,Classless Inter-Domain Routing,无类别域间路由,在Kubernetes中指基于CIDR的网络划分方案,为Pod分配的子网范围(如:10.244.0.0/12)。
通常默认情况下,PodIP地址范围(–pod-network-cidr)为10.244.0.0/16,它拥有16^2=256*256=65536个地址(包括网络地址+广播地址)可拆分成独立子网。
Calico为每个节点都会创建一个独立子网,即从CIDR大的地址池中划分较小范围的地址池给到每个节点。
Calico可以通过修改配置blockSize块大小来设置每个节点分配的独立子网的范围池大小。这边默认值IPV4=26,IPV6=122。
二进制掩码26(11111111 11111111 11111111 11000000)转换成十进制掩码即=255.255.255.192,即每个节点的子网可以有64个IP地址,减去广播地址和网络地址,可为Pod分配的有效IP地址有62个。
1.4.Calico网络策略
Calico使用IPtables实现网络策略功能,在Kubernetes中可以创建”NetworkPolicy”资源对象传给Calico的控制器,由Calico Node根据NetworkPolicy定义的规则在相关节点上创建对应的IPtables规则,以实现对Pod出入口网络流量的安全策略限制。
2.安装Calico
Calico有两种安装方式:
- 使用calico.yaml清单文件安装
- 使用Tigera Calico Operator安装Calico(官方最新指导)
Tigera Calico Operator,Calico操作员是一款用于管理Calico安装、升级的管理工具,它用于管理Calico的安装生命周期。从Calico-v3.15版本官方开始使用此工具。
Calico安装要求: - x86-64, arm64, ppc64le, or s390x processor
- 2个CPU
- 2GB运行内存
- 10GB硬盘空间
- RedHat Enterprise Linux 7.x+, CentOS 7.x+, Ubuntu 16.04+, or Debian 9.x+
- 确保Calico可以管理主机上的cali和tunl接口。
2.1.使用calico.yaml清单文件安装Calico
参考文档:https://projectcalico.docs.tigera.io/archive/v3.14/getting-started/kubernetes/quickstart
当前主机环境:
- 主机系统:CentOS Linux release 7.6.1810 (Core)
- Kubernetes版本:v1.23.0
Calico版本:v3.23.0
其他提示:默认的calico.yaml清单文件无需手动配置Pod子网范围(如果需要,可通过CALICO_IPV4POOL_CIDR指定),默认使用kube-controller-manager的”–cluster-cidr”启动项的值,即kubeadm init时指定的”–pod-network-cidr”或清单文件中使用”podSubnet”的值。
1、配置Docker镜像加速
镜像加速由阿里云”容器加速器”提供。
由于安装清单中所使用的镜像来源于国外站点,所以需要配置为国内镜像源才能正常下载镜像到国内主机。
创建配置文件”/etc/docker/daemon.json”,并写入以下内容:
[root@localhost ~]# mkdir -p /etc/docker [root@localhost ~]# cat /etc/docker/daemon.json <<EOF { "registry-mirrors": [ "https://7mimmp7p.mirror.aliyuncs.com", "https://registry.docker-cn.com", "http://hub-mirror.c.163.com", "https://docker.mirrors.ustc.edu.cn" ], "exec-opts": ["native.cgroupdriver=systemd"], "log-driver": "json-file", "log-opts": { "max-size": "100m" }, "storage-driver": "overlay2", "storage-opts": [ "overlay2.override_kernel_check=true" ] } EOF
重启docker服务即可:
[root@localhost ~]# sudo systemctl daemon-reload [root@localhost ~]# sudo systemctl restart docker
2、配置NetworkManager
如果主机系统使用NetworkManager来管理网络的话,则需要配置NetworkManager,以允许Calico管理接口。
NetworkManger操作默认网络命名空间接口的路由表,这可能会干扰Calico代理正确路由的能力。
在所有主机上操作:
[root@k8s-master01 ~]# cat > /etc/NetworkManager/conf.d/calico.conf <<EOF [keyfile] unmanaged-devices=interface-name:cali*;interface-name:tunl*;interface-name:vxlan.calico;interface-name:wireguard.cali EOF
3、下载calico.yaml
[root@k8s-master01 ~]# wget https://docs.projectcalico.org/v3.23/manifests/calico.yaml --no-check-certificate
4、修改calico.yaml
由于默认的Calico清单文件中所使用的镜像来源于docker.io国外镜像源,上面我们配置了Docker镜像加速,应删除docker.io前缀以使镜像从国内镜像加速站点下载。
[root@k8s-master01 ~]# cat calico.yaml |grep 'image:' image: docker.io/calico/cni:v3.23.0 image: docker.io/calico/cni:v3.23.0 image: docker.io/calico/node:v3.23.0 image: docker.io/calico/kube-controllers:v3.23.0 [root@k8s-master01 ~]# sed -i 's#docker.io/##g' calico.yaml [root@k8s-master01 ~]# cat calico.yaml |grep 'image:' image: calico/cni:v3.23.0 image: calico/cni:v3.23.0 image: calico/node:v3.23.0 image: calico/kube-controllers:v3.23.0
5、应用calico.yaml
[root@k8s-master01 ~]# kubectl apply -f calico.yaml
Pod-Calico在”kube-system”名称空间下创建并运行起来:
[root@k8s-master01 ~]# kubectl get pod -n kube-system |grep calico calico-kube-controllers-77d9858799-c267f 1/1 Running 0 92s calico-node-6jw5q 1/1 Running 0 92s calico-node-krrn6 1/1 Running 0 92s calico-node-mgk2g 1/1 Running 0 92s calico-node-wr2pv 1/1 Running 0 92s
2.2.使用Tigera Calico Operator安装Calico
这种是官方文档最新指导的安装方式。
Tigera Calico Operator通常会安装最新版本的Calico版本,并使用最新的功能。
1、配置NetworkManager
如果主机系统使用NetworkManager来管理网络的话,则需要配置NetworkManager,以允许Calico管理接口。
NetworkManger操作默认网络命名空间接口的路由表,这可能会干扰Calico代理正确路由的能力。
在所有主机上操作:
[root@k8s-master01 ~]# cat > /etc/NetworkManager/conf.d/calico.conf <<EOF [keyfile] unmanaged-devices=interface-name:cali*;interface-name:tunl*;interface-name:vxlan.calico;interface-name:wireguard.cali EOF
2、使用tigera-operator.yaml清单文件安装Tigera Calico operator
参考文档:https://github.com/tigera/operator
tigera-operator.yaml清单文件用于安装Tigera Calico operator。
operator的镜像来源于quay.io。
[root@k8s-master01 ~]# wget https://projectcalico.docs.tigera.io/manifests/tigera-operator.yaml -O calico-tigera-operator.yaml --no-check-certificate [root@k8s-master01 ~]# cat calico-tigera-operator.yaml |grep 'image:' image: quay.io/tigera/operator:v1.27.0 [root@k8s-master01 ~]# kubectl apply -f calico-tigera-operator.yaml [root@k8s-master01 ~]# kubectl get pod -n tigera-operator -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES tigera-operator-566769dc67-mrnhs 1/1 Running 0 5m39s 192.168.124.132 k8s-node01 <none> <none>
3、下载并配置custom-resources.yaml清单文件
custom-resources.yaml用于自定义通过Tigera Calico operator安装和配置Calico,它会创建由operator实现的Installation资源对象。
在自定义Calico之前可以通过”https://projectcalico.docs.tigera.io/reference/installation/api#operator.tigera.io/v1.Installation“先了解安装配置。
注:这边需要修改一下Pod分配子网范围(CIDR),该地址需要与kubeadm初始化集群时的”podSubnet”字段或”–pod-network-cidr”参数中填写的值相同。
[root@k8s-master01 ~]# wget https://projectcalico.docs.tigera.io/manifests/custom-resources.yaml -O calico-custom-resources.yaml --no-check-certificate [root@k8s-master01 ~]# vim calico-custom-resources.yaml apiVersion: operator.tigera.io/v1 kind: Installation metadata: name: default spec: # Configures Calico networking. calicoNetwork: # Note: The ipPools section cannot be modified post-install. ipPools: - blockSize: 26 cidr: 10.244.0.0/16 encapsulation: VXLANCrossSubnet natOutgoing: Enabled nodeSelector: all()
4、应用custom-resources.yaml清单文件
[root@k8s-master01 ~]# kubectl apply -f calico-custom-resources.yaml
5、查看Calico是否运行
Tigera Calico Operator会自动创建一个名叫”calico-system”的名称空间来运行Calico。
[root@k8s-master01 ~]# kubectl get namespace NAME STATUS AGE calico-system Active 3m10s default Active 5m55s kube-node-lease Active 5m57s kube-public Active 5m57s kube-system Active 5m57s tigera-operator Active 3m20s [root@k8s-master01 ~]# kubectl get pod -n calico-system NAME READY STATUS RESTARTS AGE calico-kube-controllers-7dfc6fb85-ktww2 0/1 Pending 0 8m33s calico-node-2t4dp 0/1 Init:ImagePullBackOff 0 8m34s calico-node-mmflx 0/1 Init:ImagePullBackOff 0 8m34s calico-node-r94tt 0/1 Init:ImagePullBackOff 0 8m34s calico-node-w7plh 0/1 Init:ImagePullBackOff 0 7m36s calico-typha-5fb57458cc-g89qp 0/1 ImagePullBackOff 0 8m34s calico-typha-5fb57458cc-t5xcm 0/1 ImagePullBackOff 0 8m28s [root@k8s-master01 ~]# kubectl describe pod calico-kube-controllers-7dfc6fb85-ktww2 -n calico-system Normal BackOff 69s (x2 over 3m41s) kubelet Back-off pulling image "docker.io/calico/pod2daemon-flexvol:v3.23.0" Warning Failed 69s (x2 over 3m41s) kubelet Error: ImagePullBackOff
可以看到所有Calico相关的Pod由于在国内环境下都无法正常下载由docker.io提供的镜像:
[root@k8s-master01 ~]# kubectl describe pod -n calico-system |grep 'Events' -A 10 |grep -Eo '"docker.io/calico/.*"' |sort |uniq "docker.io/calico/cni:v3.23.0" "docker.io/calico/kube-controllers:v3.23.0" "docker.io/calico/node:v3.23.0" "docker.io/calico/pod2daemon-flexvol:v3.23.0" "docker.io/calico/typha:v3.23.0"
尝试手动从quay.io下载镜像。quay.io是一个公共镜像仓库。
所有主机上操作:
[root@k8s-master01 ~]# docker pull quay.io/calico/cni:v3.23.0 [root@k8s-master01 ~]# docker pull quay.io/calico/kube-controllers:v3.23.0 [root@k8s-master01 ~]# docker pull quay.io/calico/node:v3.23.0 [root@k8s-master01 ~]# docker pull quay.io/calico/pod2daemon-flexvol:v3.23.0 [root@k8s-master01 ~]# docker pull quay.io/calico/typha:v3.23.0
这个时候发现Calico相关Pod都已正常运行了:
[root@k8s-master01 ~]# kubectl get pod -n calico-system NAME READY STATUS RESTARTS AGE calico-kube-controllers-7dfc6fb85-vbn6q 1/1 Running 0 64m calico-node-29h89 1/1 Running 0 64m calico-node-9c54r 1/1 Running 1 (10m ago) 64m calico-node-ntzvt 1/1 Running 0 64m calico-node-s5bz9 1/1 Running 0 64m calico-typha-5dd57768f4-79clk 1/1 Running 1 (10m ago) 27m calico-typha-5dd57768f4-dk9ph 1/1 Running 0 64m
3.Calico清单详解-calico.yaml(使用calico.yaml清单文件安装Calico安装方式必读)
参考文档:https://docs.projectcalico.org/archive/v3.14/getting-started/kubernetes/installation/config-options#other-configuration-options
calico.yaml清单文件主要用于运行calico-node和calico-kube-controllers服务,其清单安装以下Kubernetes资源:
- 使用DaemonSet在每个主机上安装calico/node容器;
- 使用DaemonSet在每个主机上安装Calico CNI二进制文件和网络配置;
- 使用Deployment运行calico/kube-controller;
- Secert/calico-etcd-secrets提供可选的Calico连接到etcd的TLS密钥信息;
- ConfigMap/calico-config提供安装Calico时的配置参数。
在calico.yaml清单文件中,Calico默认的工作模式是IPIP。
在安装Calico之前配置Calico通常有以下项:
3.1.配置PodIP范围(PodCIDR)
要更改用于Pod的默认IP范围,请修改calico.yaml清单文件中”CALICO_IPV4POOL_CIDR”部分。
kind: DaemonSet apiVersion: apps/v1 metadata: name: calico-node namespace: kube-system labels: k8s-app: calico-node spec: template: spec: containers: - name: calico-node image: calico/node:v3.14.2 env: ... # - name: CALICO_IPV4POOL_CIDR # value: "192.168.0.0/16" ...
CALICO_IPV4POOL_CIDR
设置PodIP范围。
此项用于设置安装Calico时要创建的默认IPv4池,PodIP将从该范围中选择。
Calico安装完成后修改此值将再无效。
默认情况下calico.yaml中”CALICO_IPV4POOL_CIDR”是注释的,如果kube-controller-manager的”–cluster-cidr”不存在任何值的话,则通常取默认值”192.168.0.0/16,172.16.0.0/16,..,172.31.0.0/16″。
当使用kubeadm时,PodIP的范围应该与kubeadm init的清单文件中的”podSubnet”字段或者”–pod-network-cidr”选项填写的值相同。
3.2.配置IPIP(默认)
默认情况下,清单启用跨子网所使用的封装协议是IPIP。
当集群的节点都处于同一个2层网络中时,我们期望修改Calico的工作模式为BGP或其他时,可以设置”CALICO_IPV4POOL_IPIP”的”value: Never”以禁用IPIP。默认IPIP是启用的”value: Always”。
kind: DaemonSet apiVersion: apps/v1 metadata: name: calico-node namespace: kube-system labels: k8s-app: calico-node spec: template: spec: containers: - name: calico-node image: calico/node:v3.14.2 env: ... # Enable IPIP - name: CALICO_IPV4POOL_IPIP value: "Always" ...
CALICO_IPV4POOL_IPIP
设置Calico覆盖网络IPV4池所要使用的封装协议为IPIP。
可设置的值:
Always,永久启用。
CrossSubnet,当物理主机是跨子网通信的话才启用,如果物理主机在同一2层网络中则使用BGP动态路由通信方式。
Never,从不启用,即禁用。
如果该项的值设置为”Never”以外的值,则不应设置”CALICO_IPV4POOL_VXLAN”。
Calico覆盖网络支持IPIP、VXLAN两种协议,仅能启用其中一种。
VXLAN协议禁止启用由”CALICO_IPV4POOL_VXLAN”项控制。
3.3.切换IPIP为VXLAN
默认情况下,Calico清单启用IPIP封装。如果你期望Calico使用VXLAN封装模式,则需要在安装时候做以下操作:
1、将”CALICO_IPV4POOL_IPIP “设置为”Never”,将”CALICO_IPV4POOL_VXLAN”设置为”Always”.
kind: DaemonSet apiVersion: apps/v1 metadata: name: calico-node namespace: kube-system labels: k8s-app: calico-node spec: template: spec: containers: - name: calico-node image: calico/node:v3.14.2 env: ... # Enable IPIP - name: CALICO_IPV4POOL_IPIP value: "Never" - name: CALICO_IPV4POOL_VXLAN value: "Always" ...
2、如果你只想集群仅使用基于VXLAN协议的覆盖网络模式,用不到BGP动态路由模式的话,即为了节省一点资源,可以选择完全禁用Calico基于BGP的网络:
- 将”calico_backend: “bird””修改为”calico_backend: “vxlan””,这将禁用BIRD。
- 从calico/node的readiness/liveness检查中去掉”- -bird-ready”和”- -bird-live”。
livenessProbe: exec: command: - /bin/calico-node - -felix-live # - -bird-live readinessProbe: exec: command: - /bin/calico-node # - -bird-ready - -felix-ready
CALICO_IPV4POOL_VXLAN
设置Calico覆盖网络IPV4池所要使用的封装协议为VXLAN。
可设置的值:
- Always,永久启用。
- CrossSubnet,当物理主机是跨子网通信的话才启用,如果物理主机在同一2层网络中则使用BGP动态路由通信方式。
- Never,从不启用,即禁用。
如果该项的值设置为”Never”以外的值,则不应设置”CALICO_IPV4POOL_VXLAN”。
Calico覆盖网络支持IPIP、VXLAN两种协议,仅能启用其中一种。
VXLAN协议禁止启用由”CALICO_IPV4POOL_VXLAN”项控制。
3.4.其他配置项
在清单文件的开始有ConfigMap描述Calico的配置内容,其重要的配置项解读如下:
kind: ConfigMap apiVersion: v1 metadata: name: calico-config namespace: kube-system data: typha_service_name: "none" calico_backend: "bird" veth_mtu: "1440" cni_network_config: |- { "name": "k8s-pod-network", "cniVersion": "0.3.1", "plugins": [ { "type": "calico", "log_level": "info", "datastore_type": "kubernetes", "nodename": "__KUBERNETES_NODE_NAME__", "mtu": __CNI_MTU__, "ipam": { "type": "calico-ipam" }, "policy": { "type": "k8s" }, "kubernetes": { "kubeconfig": "__KUBECONFIG_FILEPATH__" } }, { "type": "portmap", "snat": true, "capabilities": {"portMappings": true} }, { "type": "bandwidth", "capabilities": {"bandwidth": true} } ] }
typha_service_name: “none”
Typha是Calico的一个扩展组件,用于Calico通过Typha直接与Etcd通信,而不是通过kube-apiserver。通常当K8S的规模超过50个节点的时候推荐启用它,以降低kube-apiserver的负载。
支持值:
- none,关闭Typha功能。
- calico_typha,启用Typha功能。
calico_backend: “bird”
设置Calico使用的后端机制。支持值:
bird,开启BIRD功能,根据Calico-Node的配置来决定主机的网络实现是采用BGP路由模式还是IPIP、VXLAN覆盖网络模式。
vxlan,纯VXLAN模式,仅能够使用VXLAN协议的覆盖网络模式。
veth_mtu: “0”
设置虚拟接口”calicoxxxxx”的MTU值,默认情况下MTU是自动检测的,不需要显示的设置此字段。
可以通过提供一个非零值来设置它。
MTU,Maximum Transmission Unit,最大传输单元,网络设备一次发送数据包大小,单位为Byte,MTU值约小则传输速率约高,此值应由系统设置的最合理的值,通常不需要我们手动设置,最大值为1500。
cni_network_config:
在每个节点上都要安装的CNI网络插件配置。保持默认就好。
4.Calico清单详解-custom-resources.yaml(使用Tigera Calico Operator安装Calico安装方式必读)
custom-resources.yaml清单文件通过Tigera Calico Operator安装Calico的自定义清单文件。
在安装Calico之前,我们可以通过修改该清单的内容自定义配置Calico。
参考文档:https://projectcalico.docs.tigera.io/reference/installation/api
# This section includes base Calico installation configuration. # For more information, see: https://projectcalico.docs.tigera.io/v3.23/reference/installation/api#operator.tigera.io/v1.Installation apiVersion: operator.tigera.io/v1 kind: Installation metadata: name: default spec: # Configures Calico networking. calicoNetwork: # Note: The ipPools section cannot be modified post-install. ipPools: - blockSize: 26 cidr: 10.244.0.0/16 encapsulation: VXLANCrossSubnet natOutgoing: Enabled nodeSelector: all() --- # This section configures the Calico API server. # For more information, see: https://projectcalico.docs.tigera.io/v3.23/reference/installation/api#operator.tigera.io/v1.APIServer apiVersion: operator.tigera.io/v1 kind: APIServer metadata: name: default spec: {}
spec.calicoNetwork
配置Calico网络。
spec.calicoNetwork.bgp
开启或禁用BGP路由功能。支持值:Enabled, Disabled。
spec.calicoNetwork.ipPools
IPPool,为由节点筛选器指定节点上创建Pod分配的单个或多个地址池,以及要使用的Pod网络的实现方法。
spec.calicoNetwork.ipPools.blockSize(int32)
块大小,子网划分技术,指从CIDR(如:10.244.0.0/16)里面为每个节点拆分一个独立的子网块范围大小(如:10.244.32.128/26)。默认IPV4=26,IPV6=122。二进制掩码26转换成十进制掩码即=255.255.255.192,即每个节点的子网可以有64个IP地址,减去广播地址和网络地址,可为Pod分配的有效IP地址有62个。
spec.calicoNetwork.ipPools.cidr(string)
Pod网络IP范围。
spec.calicoNetwork.ipPools.encapsulation
设置Pod网络要使用的封装协议类型,支持:
- IPIP,使用IPIP封装协议。
- VXLAN,使用VXLAN封装协议。
- IPIPCrossSubnet,当物理主机是跨子网的情况下才使用IPIP覆盖网络通信方式,正常情况下使用BGP路由模式。
- VXLANCrossSubnet,当物理主机是跨子网的情况下才使用VXLAN覆盖网络通信方式,正常情况下使用BGP路由模式。
- None,不使用IPIP或VXLAN封装。
spec.calicoNetwork.ipPools.natOutgoing
NAT传出,对传出的流量启用或禁用NAT功能。支持值:Enabled, Disabled。
spec.calicoNetwork.ipPools.nodeSelector(string)
节点选择器,使用它选择该IPPool池会影响那些节点的Pod。默认值为”all()”,保持默认就好。
5.完全卸载Calico网络插件
1、删除安装清单中的所有资源对象
任一台Master上操作:
[root@k8s-master01 ~]# kubectl delete -f calico.yaml
2、删除tunl0虚拟网卡
如果使用了IPIP覆盖网络模式,则Calico会在每台主机上创建一块名叫tunl0的虚拟网卡设备。
在所有主机上操作:
[root@k8s-master01 ~]# modprobe -r ipip
3、删除Calico相关CNI配置文件
在所有主机上操作:
[root@k8s-master01 ~]# rm -rf /var/lib/cni/ && rm -rf /etc/cni/net.d/*
4、重启kubelet服务
在所有主机上操作:
[root@k8s-master01 ~]# systemctl restart kubelet