【kubernetes/k8s概念】kube-ovn-controller 源码分析之一_cluster-tcp-session-loadbalancer has 2 lb entries,-程序员宅基地

技术标签: # kubernetes CNI 网络  

    kube-ovn-controller 逻辑职责是翻译 kubernetes 网络概念到 OVN,可以理解为 kube-ovn 的控制面功能,通过 kube-apiserver watch 所有网络相关事件,包括 Pod creation/deletion, Service/Endpoint modification, Networkpolicy changes 等等。然后翻译转为 OVN 逻辑网络的修改。也 watch kube-ovn 添加的 CRD,比如 VPC Subnet Vlan IP 等


    启动脚本为 start-controller.sh,实质是获取南向数据库和北向数据库地址,kube-ovn-controler 启动命令为:

kube-ovn-controller

     --ovn-nb-addr=tcp:[172.16.236.238]:6641

     --ovn-sb-addr=tcp:[172.16.236.238]:6642

     --default-cidr=10.16.0.0/16

     --default-gateway=10.16.0.1

     --default-exclude-ips=

     --node-switch-cidr=100.64.0.0/16

     --network-type=geneve

     --default-interface-name=

     --default-vlan-id=100

     --pod-nic-type=veth-pair

1. CmdMain 函数

   分析命令行,实例化 Configuration 结构体,文件为 pkg/controller/config.go

config, err := controller.ParseFlags()
if err != nil {
	klog.Fatalf("parse config failed %v", err)
}

   1.1 NewController 实例化 Controller 结构体

    定义为 pkg/controller/controller.go 文件,关注的资源包括,vpc vpc-nat-gateway subnet ips vlans provider-networks pod namespace node service endpoint networkpolicy config

ctl := controller.NewController(config)

   1.2 Run 方法

     1.2.1 InitDefaultVpc 方法初始化 ovn-cluster vpc,这个对应逻辑网络 router,更新状态信息

status:
  default: true
  defaultLogicalSwitch: ovn-default
  router: ovn-cluster
  standby: true
  subnets:
  - join
  - ovn-default
  tcpLoadBalancer: cluster-tcp-loadbalancer
  tcpSessionLoadBalancer: cluster-tcp-session-loadbalancer
  udpLoadBalancer: cluster-udp-loadbalancer
  udpSessionLoadBalancer: cluster-udp-session-loadbalancer

   1.2.2 InitOVN 方法

    initClusterRouter 调用北向数据接口命令 "ovn-nbctl --format=csv --data=bare --no-heading --columns=name find logical_router",如果不存在 ovn-cluster logical_router,在创建 “ovn-nbctl --may-exist lr-add ovn-cluster -- set Logical_router ovn-cluster external_ids:vendor=kube-ovn

    initLoadBalancer 初始化默认的 tcp 和 upd loadbalancer,调用命令查找 ovn-nbctl --data=bare --no-heading --columns=_uuid find load_balancer name=cluster-tcp-loadbalancer,如果不存在则创建,还包括 cluster-tcp-session-loadbalancer cluster-udp-loadbalancer cluster-udp-session-loadbalancer

    initDefaultVlan 函数如果网络类型不是 vlan 不处理,initDefaultProviderNetwork 创建默认的 provider ProviderNetwork 资源,vlan ID 范围 0 < vlanID < 4096

apiVersion: kubeovn.io/v1
kind: ProviderNetwork
metadata:
  creationTimestamp: "2021-07-28T06:45:00Z"
  generation: 4
  name: provider
  resourceVersion: "765904"
  uid: 449c48b1-1421-4b4b-b36f-56e50f311e11
spec:
  defaultInterface: eth0

    initNodeSwitch 函数查 subnet join,如果不存在则创建,这个主要是打通 pods 由 node 网络通信

spec:
  cidrBlock: 100.64.0.0/16
  default: false
  disableInterConnection: true
  excludeIps:
  - 100.64.0.1
  gateway: 100.64.0.1
  gatewayNode: ""
  gatewayType: distributed
  natOutgoing: false
  private: false
  protocol: IPv4
  provider: ovn
  underlayGateway: false
  vpc: ovn-cluster

     initDefaultLogicalSwitch 函数查  ovn-default 子网,如果不存在则创建,如果未指定子网,默认创建的 pod 网络属于该子网

spec:
  cidrBlock: 10.16.0.0/16
  default: true
  disableInterConnection: false
  excludeIps:
  - 10.16.0.1
  gateway: 10.16.0.1
  gatewayNode: ""
  gatewayType: distributed
  natOutgoing: true
  private: false
  protocol: IPv4
  provider: ovn
  underlayGateway: false
  vpc: ovn-cluster

   1.2.3 InitIPAM 函数遍历所有子网,更新 ipam map,对 alive pod 注解地址处理,node 注解处理,先不详细分析

   1.2.4 主要逻辑在 startWorkers,异步处理各种资源

2. VPC 处理

  2.1 函数 runAddVpcWorker

  主要逻辑函数是 handleAddOrUpdateVpc 添加或者更新 VPC,对应逻辑网络 router

   createVpcRouter 调用命令 “ovn-nbctl --format=csv --data=bare --no-heading --columns=name find logical_router" 查询已存在的 routers,ovnClient.CreateLogicalRouter 创建逻辑 router

   如果不是默认 ovn-cluster router 的处理,可以配置静态路由,调用 ovn-nbclt lr-router-list xxx。

ovn-nbctl lr-route-del router cide 删除路由,ovn-nbctl lr-route-add router cidr gw 添加路由

switch a07eb43f-fc52-4874-8b0e-840eb2493d7b (join)
    port node-node1
        addresses: ["00:00:00:FB:59:C5 100.64.0.2"]
    port join-ovn-cluster
        type: router
        addresses: ["00:00:00:BF:CD:B0"]
        router-port: ovn-cluster-join
router ca02f48e-4459-4db5-8cae-9ef125ed0ee1 (test-vpc-2)
router a7cb924e-300e-4183-a1c9-4676cbfc3765 (test-vpc-1)

   

3. Node 处理

    包括 runAddNodeWorker,runUpdateNodeWorker,runDeleteNodeWorker

   3.1 handleAddNode 

     对 node 删除注解 Chassis,如果设置注解,则调用 ipam.GetStaticAddress 处理,subnet 更新 map MacToPod 和 PodToMac 

     subnet IP 处理,先从 subnet.V4ReservedIPList,subnet.V4FreeIPList 重新更新,更新 V4PodToIP V4IPToPod

      如果未指定注解,则调用 ipam.GetRandomAddress 从 freeList 取,有其他逻辑处理

      ovnClient.CreatePort 在 join 逻辑 switch 创建 logical_switch_port

      ovnClient.AddStaticRoute 在 ovn-cluster router 创建静态路由

      更新 node 注解,添加 IPS

4. Namespace 处理

   4.1 runAddNamespaceWorker 函数

   从所有子网 subnet.spec.namespaces 是否包含该 namespace,如果不包含,则在从所有 vpc.spec.namespaces 是否包含该 namespace,如果不包含则使用默认 vpc ovn-cluster,更新 namespace 配置注解

   metadata:
    annotations:
      ovn.kubernetes.io/cidr: 30.0.1.0/24
      ovn.kubernetes.io/exclude_ips: 30.0.1.1
      ovn.kubernetes.io/logical_switch: net1

5. Pod 处理 

    包括 runAddPodWorker,runDeletePodWorker,runUpdatePodWorker

   5.1 handleAddPod 函数

    如果 pods 注解则调用 ValidatePodNetwork 进行合法性检查

    acquireAddress 可以是调用 ipam.GetRandomAddress 随机分配,调用 acquireStaticAddress 静态配置,还有 ip_pool 地址池分配。对于 地址池 ip_pool 分配分为 statefulset 和无状态的,对于无状态的则调用 ipam.IsIPAssignedToPod 查找子网 subnet 的 map V4IPToPod,不存在则调用acquireStaticAddress 将 subnet 的 map 占用上

     onvClient.CreatePort 调用 ovn-nbtcl --may-exist lsp-add ${switch} ${port} -- lsp-set-addresses ${port} ${mac} ${ip} 创建 logical switch port

switch e80b5a4f-9a8a-4ca6-88f4-581d9e6f793c (net2)
    port net2-test-vpc-2
        type: router
        addresses: ["00:00:00:8E:D9:0A"]
        router-port: test-vpc-2-net2
    port starter-backend-6f6dfcb8d6-5t9ph.ns2
        addresses: ["00:00:00:5F:84:16 10.0.1.3"]
    port starter-backend-6f6dfcb8d6-hl7nv.ns2
        addresses: ["00:00:00:93:5D:95 10.0.1.2"]

总结:

 subnet 对应 logical switch,默认的 subnet 为 ovn-default,node 设置为 join

 pod 创建时会创建对应的 logical switch port

 router 对应 kube-ovn 里的 vpc,默认的 vpc 为 ovn-cluster

  

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/zhonglinzhang/article/details/119134778

智能推荐

zabbix短信告警oracle,zabbix 实现短信告警-程序员宅基地

文章浏览阅读402次。之前一直调用飞信接口发送告警信息,最近购买了第三方短信接口。所以准备使用接口发送告警。短信接口是基于https的摘要认证。https认证还是自己做的,调用接口的时候还需要load证书。感觉超级难用,不管那么多,先让它跑起来再说。废话不多说,先上代码。#!/usr/bin/envpython#coding:utf-8importrequestsfromrequests.authimport..._zabbix实现短信告警

soapui中文操作手册(四)----MOCK服务_soapui设置成中文-程序员宅基地

文章浏览阅读6.8k次,点赞2次,收藏12次。转载地址:http://www.cnblogs.com/zerotest/p/4670005.htmlWeb Service Mocking是武器库一个非常有用的工具。这是解决“如果没有Web服务如何创建针对性的Web服务测试”问题的办法。Web Service Mocking将在这里派上用场。它允许你实际的Web服务产生之前,创建近似或模拟的Web Service。在本教_soapui设置成中文

Swift 包管理器 (SPM):管理 iOS 中的依赖关系_ios spm-程序员宅基地

文章浏览阅读845次,点赞29次,收藏7次。Swift 包管理器 (SPM):管理 iOS 中的依赖关系_ios spm

SCI论文润色真有必要吗?-程序员宅基地

文章浏览阅读381次,点赞10次,收藏7次。总的来说,sci论文润色虽然不会改变论文的学术内容和贡献,但它能够显著的提升论文的质量和可读性,从而增加论文被接受和引用的机会。在论文投稿前都是需要润色的,特别是英文论文投稿,一定得靠谱。但如果是一些小问题,比如语法语句错误,专业言论不恰当,那么你的文章会在投稿过程中外审评定完以后,也会给你返修意见和修改机会。如果是新作者,或者是对自己的语言能力不那么自信,那么是很有必要的。其他人的视角可能会发现你忽略的错误或不清晰的表达,同时也可以提供有关论文结构和逻辑的反馈意见。关于SCI论文润色的常见方法。

Prometheus监控数据格式的学习-程序员宅基地

文章浏览阅读1.1k次,点赞33次,收藏9次。Prometheus 指标(metrics)的数据形式是一种简单的文本格式(容易通过 HTTP 协议被 Prometheus 服务器拉取)。每一行包含了一个指标的数据,通常包括指标名称、可选的一组标签以及指标的值。Prometheus 的指标数据可以有不同类型,如 Counter、Gauge、Histogram 和 Summary,它们的表示形式会有所不同。

数字图像处理(10): OpenCV 图像阈值化处理_binarization threshold-程序员宅基地

文章浏览阅读5.6k次,点赞26次,收藏43次。目录1 什么是阈值化-threshold()2 二进制阈值化3 反二进制阈值化4 截断阈值化5 反阈值化为06 阈值化为07 小结参考资料1 什么是阈值化-threshold()图像的二值化或阈值化 (Binarization)旨在提取图像中的目标物体,将背景以及噪声区分开来。通常会设定一个阈值,通过阈值将图像的像素划分为两类:大于阈值的..._binarization threshold

随便推点

使用安卓模拟器时提示关闭hyper-v_hyperv影响 模拟器-程序员宅基地

文章浏览阅读1.6w次。本电脑是宏碁传奇X,cpu是r7 5800u,显卡rtx3050;使用了雷电、mumu两款安卓模拟器,雷电启动报错g_bGuestPowerOff fastpipeapi.cpp:1161,使用了网上的所有方案都不行,包括开启VT(amd开启SVM),命令关闭hyper-v服务等;尝试mumu模拟器,安装时支持vt项检测不通过,后来发现mumu模拟器在amd的cpu上只支持32位版,换装32位版检测通过,但是只要打开模拟器就提示需要关闭hyper-v,我已经确认关闭后,启动依旧这样提示,查找了网上很_hyperv影响 模拟器

【大厂秘籍】系列 - Mysql索引详解-程序员宅基地

文章浏览阅读564次。MySQL官方对索引定义:是存储引擎用于快速查找记录的一种数据结构。需要额外开辟空间和数据维护工作。● 索引是物理数据页存储,在数据文件中(InnoDB,ibd文件),利用数据页(page)存储。● 索引可以加快检索速度,但是同时也会降低增删改操作速度,索引维护需要代价。

CSS实现当鼠标停留在一个元素上时,使得两个元素的样式发生改变_css鼠标悬浮修改其他元素样式-程序员宅基地

文章浏览阅读825次。使用兄弟选择器实现同时改变两个元素的样式_css鼠标悬浮修改其他元素样式

文献学习-40-基于可迁移性引导的多源模型自适应医学图像分割-程序员宅基地

文章浏览阅读4.8k次,点赞32次,收藏43次。香港中文大学袁奕萱教授团队提出了一种名为多源模型自适应 (MSMA) 的新型无监督域适应方法。MSMA 旨在仅利用预训练的源模型(而非源数据)将知识迁移到未标记的目标域,从而实现对目标域的有效分割。

(4)FPGA开发工具介绍(第1天)-程序员宅基地

文章浏览阅读8.8k次。(4)FPGA开发工具介绍(第1天)1 文章目录1)文章目录2)FPGA初级课程介绍3)FPGA初级课程架构4)FPGA开发工具介绍(第1天)5)技术交流6)参考资料2 FPGA初级课程介绍1)FPGA初级就业课程共100篇文章,目的是为了让想学FPGA的小伙伴快速入门。2)FPGA初级就业课程包括FPGA简介、Verilog HDL基本语法、Verilog HDL 入门实例、FPGA入门实例、Xilinx FPGA IP core设计、Xilinx FPGA原语与U_fpga开发工具

js中的定时器如何使用_js定时器用法-程序员宅基地

文章浏览阅读1.4k次。JS提供了一些原生方法来实现延时去执行某一段代码,下面来简单介绍一下setTiemout、setInterval、setImmediate、requestAnimationFrame。首先,我们先来了解一下什么是定时器:JS提供了一些原生方法来实现延时去执行某一段代码下面来简单介绍一下setTimeout() :在指定的毫秒数后调用函数或计算表达式。setTimeout(code,millisec,lang)参数 描述code 必需。要调用的函数后要执行的 JavaScript 代码串。_js定时器用法

推荐文章

热门文章

相关标签