开发者
资源
文档评分
获取效率
正确性
完整性
易理解
在线提单
论坛求助

在离线混部插件(Kunpeng QoS Controller)(崔雁翔)

在离线混部插件(Kunpeng QoS Controller)是一个以DaemonSet方式运行的节点本地Operator。用户通过QoSPolicy声明资源控制策略,控制器在匹配的节点上创建并配置resctrl控制组,将Pod进程绑定到对应控制组,并按需设置容器cgroup参数,从而实现节点级QoS资源管控。

MPAM是在ARM64架构下的访问资源隔离和监控的技术,用于解决服务器系统中,混部不同类型业务时,由于共享资源,而带来的某些关键应用的竞争性能下降或者系统整体性能下降的问题。

通过限制离线业务对内存带宽和L3缓存容量的占用,避免离线业务干扰实时业务的性能。SMT QoS通过WFI指令等方式限制BE任务指令吞吐量,保障LS任务获得更多微架构资源,允许BE任务使用LS任务的空闲SMT线程,提高整体资源利用率。Kunpeng QoS Controller通过QoSPolicy CR提供相关接口使用这两个能力。

当前主要能力:

  • 监听QoSPolicy CR,并在本节点创建、更新、删除对应resctrl控制组。
  • 将Pod绑定到目标控制组(通过Pod标签qos.kunpeng.huawei.com/group)。
  • 对离线负载(qos.kunpeng.huawei.com/workload-class=offline)执行动态控制相关附加动作。
  • 可通过QoSPolicy的cpu.qosLevel字段控制Pod内容器的cgroup的cpu.qos_level。

    说明:MPAM涉及的共享资源包括:L2 Cache、L3 Cache和DMC带宽。

    图1 在离线混部插件(Kunpeng QoS Controller)原理图