Kubernetes中Pod间共享内存方案

EAWorld
关注

四、灰度上线

对于集群中的存量业务,之前都是将Agents与业务打包在同一个docker image,因此需要有灰度上线方案,以保证存量业务不受影响。

首先创建好对应的Kubernetes ClusterRole, SA, ClusterRoleBinding, PSP Object。关于PSP 的内容,请参考官方文档介绍pod-security-policy。

在集群中任意选择部分Node,给Node打上Label(AgentsDaemonSet:YES)和Taint(AgentsDaemonSet=YES:NoSchedule)。

$ kubectl label node $nodeName AgentsDaemonSet=YES
$ kubectl taint node $nodeName AgentsDaemonSet=YES:NoSchedule

(安卓系统可左右滑动查看全部代码)

部署Agent对应的DaemonSet(注意DaemonSet需要加上对应的NodeSelector和Toleration, Critical Pod Annotations), Sample as follows:

apiVersion: apps/v1

kind: DaemonSet

metadata:

name: demo-agent

namespace: kube-system

labels:

k8s-app: demo-agent

spec:

selector:

matchLabels:

name: demo-agent

template:

metadata:

annotations:
       scheduler.alpha.kubernetes.io/critical-pod: ""

labels:
       name: demo-agent

spec:

tolerations:

- key: "AgentsDaemonSet"
       operator: "Equal"
       value: "YES"
       effect: "NoSchedule"

hostNetwork: true

hostIPC: true

nodeSelector:
       AgentsDaemonSet: "YES"

containers:

- name: demo-agent

image: demo_agent:1.0
       volumeMounts:

- mountPath: /dev/shm

name: shm
       resources:

limits:

cpu: 200m

memory: 200Mi

requests:

cpu: 100m

memory: 100Mi

volumes:

- name: shm

hostPath:

path: /dev/shm

type: Directory

在该Node上部署不包含基础组件Agent的业务Pod,检查所有基础组件和业务是否正常工作,如果正常,再分批次选择剩余Nodes,加上Label(AgentsDaemonSet:YES)和Taint(AgentsDaemonSet=YES:NoSchedule),DaemonSet Controller会自动在这些Nodes创建这些DaemonSet Agents Pod。如此逐批次完成集群中基础组件Agents的灰度上线。

总结:

在高并发业务下,尤其还是以C/C++代码实现的基础组件,经常会使用共享内存通信机制来追求高性能,本文给出了Kubernetes Pod间Posix/SystemV共享内存方式的折中方案,以牺牲一定的安全性为代价,请知悉。当然,如果微服务/容器化改造后,基础服务的Server端确定不会有压力,那么建议以SideCar Container方式将基础服务的Agents与业务Container部署在同一Pod中,利用Pod的共享IPC特性及Memory Medium EmptyDir Volume方式共享内存。

推荐阅读

说说K8S是怎么来的,又是怎么没的

容器云之K8s自动化安装方式的选择

Docker 与 K8s 在企业基础设施服务的应用

Kubernetes中Pod间共享内存方案

关于作者:王涛,腾讯云高级工程师,西安电子科大硕士毕业,持续深耕云计算领域七年,目前在腾讯基于TKE(Tencent Kubernetes Engine)构建DevOps平台,帮助集团自研业务上云,曾在华为、唯品会、vivo从事企业私有云平台的建设工作,2014年开始专注于Kubernetes/Docker等容器技术栈在DevOps、AI Platform方向的应用,积累了大量生产经验。

转载本文需注明出处:微信公众号EAWorld,违者必究。

声明: 本文由入驻OFweek维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。
侵权投诉

下载OFweek,一手掌握高科技全行业资讯

还不是OFweek会员,马上注册
打开app,查看更多精彩资讯 >
  • 长按识别二维码
  • 进入OFweek阅读全文
长按图片进行保存