网站注册会绑定式收费吗,微信商城在哪里点开,自建网站怎么关闭,兰州网站搜索排名简介#xff1a;由于混部是一个复杂的技术及运维体系#xff0c;包括 K8s 调度、OS 隔离、可观测性等等各种技术#xff0c;之前的一篇文章《历经 7 年双 11 实战#xff0c;阿里巴巴是如何定义云原生混部调度优先级及服务质量的#xff1f;》#xff0c;主要聚焦在调度优…简介由于混部是一个复杂的技术及运维体系包括 K8s 调度、OS 隔离、可观测性等等各种技术之前的一篇文章《历经 7 年双 11 实战阿里巴巴是如何定义云原生混部调度优先级及服务质量的》主要聚焦在调度优先级和服务质量模型上今天我们来关注一下资源配额多租相关的内容。
引言
在阿里集团离线混部技术从 2014 年开始经历了七年的双十一检验内部已实现大规模落地推广每年为阿里集团节省数十亿的资源成本整体资源利用率为 70%左右达到业界领先水平。这两年我们开始把集团内的混部技术通过产品化的方式输出给业界通过插件化的方式无缝安装在标准原生的 K8s 集群上配合混部管控和运维能力提升集群的资源利用率和产品的综合用户体验。
由于混部是一个复杂的技术及运维体系包括 K8s 调度、OS 隔离、可观测性等等各种技术之前的一篇文章《历经 7 年双 11 实战阿里巴巴是如何定义云原生混部调度优先级及服务质量的》主要聚焦在调度优先级和服务质量模型上今天我们来关注一下资源配额多租相关的内容。
资源配额概述
首先想提一个问题在设计上既然 K8s 的调度器已经可以在没有资源的情况下让 pod 处于 pending 状态那为什么还需要有一个资源配额Resource Quota的设计
我们在学习一个系统时不但要学习设计本身还需要考虑为什么这个设计是必须的如果把这个设计从系统中砍掉会造成什么后果因为在一个系统中增加任何一项功能设计都会造成好几项边际效应Side Effect包括使用这个系统的人的心智负担系统的安全性、高可用性性能都需要纳入考虑。所以功能不是越多越好。越是优秀的系统提供的功能反而是越少越好。例如 C 语言只有 32 个关键字而用户可以通过自定义组合这些基础能力实现自己想要的任何需求。
回到原问题一个集群的资源一定是有限的无论是物理机上的 CPU、内存、磁盘还有一些别的资源例如 GPU 卡这些。光靠调度是否能解决这个问题呢如果这个集群只有一个用户那么这个问题其实还是能忍受的例如看到 pod pending了那就不创建新的 pod 了如果新的 pod 比较重要这个用户可以删掉旧的 pod然后再创建新的。但是真实的集群是被多个用户或者说团队同时使用的当 A 团队资源不够了再去等 B 团队的人决策什么应用可以腾挪出空间在这个时候跨团队的交流效率是非常低下的。所以在调度前我们就需要再增加一个环节。如下图所示 在这个环节内引入了资源配额和租户这 2 个概念。租户是进行资源配额调配的团队单位。配额则是多个租户在使用有限的集群资源时互相在事先达成的一个共识。事先是一个非常重要的关键词也就是说不能等到 pod 到了调度时、运行时再去告诉创建者这个 pod 因为配额不足而创建不出来而是需要在创建 pod 之前就给各个团队一个对资源的心理预期每年初在配置资源配额时给 A 团队或者 B 团队定一个今年可以使用的配额总量这样当 A 团队配额用完时A 团队内部可以先进行资源优先级排序把不重要的 pod 删除掉如果还不够那就再和 B 团队商量是否可以从 B 团队的配额划分一些配额过来。这样的话就无需任何情况下都要进行点对点的低效率沟通。A 团队和 B 团队在年初的时候就需要对自己的业务的资源用量做一个大概的估算也就是资源预算。
所以从这个角度来说资源配额是多个租户之间低频高效率沟通合作的一种方式。如果把配额这个概念放到经济学中是不是就有点计划经济的感觉了呢其实里面的核心思想是一致的都是在有限的资源情况下各个组织之间在事先达成一个高效率的合作沟通方案。 低优资源配额从哪里来
apiVersion: v1
kind: Pod
metadata:annotations: alibabacloud.com/qosClass: BE # {LSR,LS,BE}
spec:containers:- resources:limits:alibabacloud.com/reclaimed-cpu: 1000 # 单位 milli core1000表示1Corealibabacloud.com/reclaimed-memory: 2048 # 单位 字节和普通内存一样。单位可以为 Gi Mi Ki GB MB KBrequests:alibabacloud.com/reclaimed-cpu: 1000alibabacloud.com/reclaimed-memory: 2048
再回到今天想讨论的话题云原生混部的资源配额和 K8s 社区原生的资源配额有什么区别从上面的 yaml 配置可以看到低优资源我们使用了社区的扩展资源来进行管理所以很顺理成章的就是对低优 CPU 和低优内存做一个配额总量的控制并且这些总量会在不同部门之间进行事先的预算分配这些逻辑和社区的资源配额逻辑是一样的在这里就不赘述了大家可以看社区的官方文档《资源配额》
但是低优资源还有一些逻辑是和社区资源配额是不一样的并且由于 CPU 和内存这 2 种资源天生的特性不同所以还有区别接下来用一张表来展现这个概念。 可以看到由于 CPU 是可压缩资源我们引入了低优 CPU 超卖比这个参数在原有集群 100C 的基础上可以另外超卖出 60C 的资源给所有的低优任务使用。而对于内存这种不可压缩资源而言总体 100G按照低优内存分配比这个参数划分了 40G 之后剩下给高中优的用量就只剩 60G 了。因为在混部集群的管理中由此得到的一个结论就是要给集群的机器配置更多的内存这样才有足够的数量不影响在线业务使用。
注可压缩资源(例如 CPU 循环disk I/O 带宽)都是速率性的可以被回收的对于一个 task 可以降低这些资源的量而不去杀掉 task和不可压缩资源(例如内存、硬盘空间)这些一般来说不杀掉 task 就没法回收的。
《在 Google 使用 Borg 进行大规模集群的管理 5-6》- 6.2 性能隔离
这里顺便卖个关子具体这个配比多少是合适的包括这几个参数到底设置多少是合理的在阿里云的商用产品 ACK 敏捷版混部里面会有具体内容输出。
基于容量的弹性配额调度
云原生混部在配额方面和社区的第二个区别在哪里呢可以看到的是引入混部后会引入大量的离线运算任务和比较有规律的在线业务相比离线任务像洪水一样是一波一波的在整个时间区间内更不规律。有可能 A 团队在跑大数据计算把自己的低优配额都跑完了但是 B 团队的大数据计算这个时候还没跑还有空闲的配额。
那么是否可以把这部分的配额利用起来先“借”给 A 部门使用呢这里就可以引入另外一个能力基于容量的配额调度。 支持定义不同层级的资源配额。如上图所示您可以根据具体情况比如公司的组织结构配置多个层级的弹性配额。弹性配额组的叶子节点可以对应多个 Namespace但同一个 Namespace 只能归属于一个叶子节点。支持不同弹性配额之间的资源借用和回收。Min您可以使用的保障资源Guaranteed Resource。当整个集群资源紧张时所有用户使用的 Min 总和需要小于集群的总资源量。Max您可以使用的资源上限。
引入了这个弹性配额调度后我们发现组织中多个团队在使用低优资源时的“弹性”更强了当 B 团队有空闲的配额时可以动态的“借”给 A 团队使用反之亦然。这样集群在全时间段里面的利用率进一步提升更充分和有效的利用了集群的资源。
相关解决方案介绍
进入了 2022 年混部在阿里内部已经成为了一个非常成熟的技术为阿里每年节省数十亿的成本是阿里数据中心的基本能力。而阿里云也把这些成熟的技术经过两年的时间沉淀成为混部产品开始服务于各行各业。
在阿里云的产品族里面我们会把混部的能力通过 ACK 敏捷版以及 CNStackCloudNative Stack产品家族对外进行透出并结合龙蜥操作系统OpenAnolis形成完整的云原生数据中心混部的一体化解决方案输出给我们的客户。
预告关于混部水位线也就是保障可靠性的最后一道防线我们会在后一篇文章里面进行介绍。
参考链接
1、《资源配额》
资源配额 | Kubernetes
2、《在Google使用Borg进行大规模集群的管理 5-6》
在Google使用Borg进行大规模集群的管理 5-6 - 难易相成 - OSCHINA - 中文开源技术交流社区
3、《Capacity Scheduling》
通过capacity调度来提升集群的整体资源利用率_容器服务 ACK-阿里云
4、龙蜥操作系统OpenAnolis 龙蜥操作系统开源社区
原文链接
本文为阿里云原创内容未经允许不得转载。
