指定线程绑核原理

由于CMF依赖分线程绑核以取得更好收益，因此需要对指定线程绑核后进行定制化L2 I/D分离设置。

在部署Qwen 1.5b推理服务时，服务端负载主要集中于中断处理、主进程及ACL（Ascend Computing Language）线程这三个功能模块。因各功能模块特征不同，需为它们配置不同的L2 I/D分离配比。绑核策略如图1所示。

图1 不同模块NPU业务绑核示意图