一条指令让73% FSU Stall消失作者 | 吴亦航 1背景一场景需要使用SVE来加速计算。在benchmark实测时发现，手写的内联汇编耗时是Intrinsics编译版本的两倍。该程序用于测试svcnt_u64指令运行4亿次的性能。实测走汇编实现的分支性能是Intrinsics实现分支的一半。 double bench_svcnt_u64() { const uint64_t vlen = get_sve_vl_bytes(); uint64_t total_ops = g_iterations * (g_test_bytes / vlen); double t0 = get_time(); #ifdef USE_SVE_ASM __asm__ volatile ( "ptrue p0.d " "ld1d {z0.d}, p0/z, [%1] " "mov x9, #0 " // 使用临时寄存器 x9 作为计数器 "1: " // 循环标签 "cnt z1.d, p0/m, z0.d " // 核心指令 "add x9, x9, #1 " "cmp x9, %0 " "b.ne 1b " // 不相等则跳转到 1 : : "r"(total_ops), "r"(&buf_a[0]) : "x9", "p0", "z0", "z1", "cc" // cc 表示修改了状态标志位（cmp） ); #else svbool_t pg = svptrue_b64(); svuint64_t v = svld1_u64(pg, (uint64_t*)&buf_a[0]); for (uint64_t i = 0; i < total_ops; i++) { svuint64_t res = svcnt_u64_x(pg, v); __asm__ volatile ("" : "+w"(v) : "w"(res) : "memory"); } #endif double t1 = get_time(); return t1 - t0; 鲲鹏950有两个256 bits的Vector Port，即一个核最多同时执行两条SVE指令。为了充分利用计算单元，手动将汇编实现的版本做循环展开，在一次循环内执行两条cnt指令，观察到整体耗时缩短50%，获得与Intrinsics版本相当的性能。循环展开到2次版本耗时/s Intrinsics 0.155 内联汇编 - 原始版本 0.309 内联汇编 - 循环展开两次 0.154 2汇编分析 2.1反汇编查看Intrinsics版本的汇编代码，观察编译器是否做了循环展开优化。可以采用perf record的方式，也可以用objdump -d去看。这里用objdump。结果发现Intrinsics版本没有循环展开的现象，而是在循环体内多了一条movprfx指令。这条指令是啥？为什么有这条指令后，性能与手动循环展开两次相当？ 2.2依赖与串行在讲movprfx之前，需先解释这里实际在做的计算。我们benchmark的指令是CNT Zd.D, P/M, Zn.D。谓词Pg的修饰符是/M（Merging），代表未激活的通道保持目标寄存器中的原值。于是在实际执行CNT Zd.D, P/M, Zn.D时，硬件的逻辑语义是：对于每个通道i： ●如果P[i]为真，则 Zd[i] = popcount(Zn[i])； ●如果P[i]为假，则 Zd[i] = Zd[i]（保留原值）。可以看到，Zd实际上出现在了“等号右边”，是参与运算的。这就令内联汇编写法产生了一个致命的依赖链：第N次循环的cnt必须等待第N-1次循环的cnt完成，因为第N次操作需要知道z1的旧值（即第N-1次的结果）才能处理p0中可能存在的False通道。因此，为了保证正确性，CPU必须串行化地执行整个循环。即使硬件有两个Vector Port，也利用不起来。 2.3movprfx指令查阅资料可知，movprfx是SVE中为了解决“破坏性操作码（Destructive Encoding）”而设计的特殊指令。在ARM64指令集中，大多数指令是三地址的（例如 add x0, x1, x2），目标寄存器和源寄存器是分离的。但在SVE中，为了节省指令编码空间，许多指令（如 cnt, fadd, sel 等）采用了两地址破坏性编码。这意味着指令格式通常是：OP Zd, Pg, Zn。其逻辑本质上是：Zd = OP(Zd, Zn)，即“破坏”了参与运算的（等号右边的）源寄存器。而movprfx的作用是将下一条指令从“破坏性”变为“非破坏性”。 movprfx z2, z1 对于上面这条指令，CPU实际处理的是对于每个通道i： ●如果p0[i]为真，则 z2[i] = popcount(z1[i])，这里与上面的逻辑一致 ●如果p0[i]为假，则 z2[i] = z1[i]，即保留z1的值而不是z2的值（由movprfx z2, z1指定）。可以看到，z2没有出现在等号右边，而是只出现在了左边。z2不再需要以源寄存器的身份参与运算，它只接收结果。这里最重要的优势就是，z2的新值不再依赖于z2的旧值，CPU的重命名器可以给每一轮循环中的z2分配不同的物理寄存器，释放发射端口。只要硬件有多个矢量执行流水线（Vector Ports），流水线就可以同时调度多个互不相关的cnt操作，实现由串行转并行。并且，硬件在执行时会将movprfx和随后的cnt融合为一个内部微操作（Micro-op），相当于只需执行一条指令。 2.4使用/z Zeroing谓词？注意到，这里的cnt指令使用了p/m谓词导致目标寄存器z2会作为输入去到等号右边参与运算（以应对p0[i]为False的情况）。如果使用p0/z是不是可以避免这个情况？这样的话在p0[i]为False的地方只需填充0即可，z2只会出现在等号左边。如果是其他指令，且确实不需要/m (Merging) 语义的话，可以使用/z。但SVE没有为cnt指令提供/z的模式。所以这里为了避免cnt破坏性操作导致的串行，只能添加movprfx。 2.5TopDown 拉长测试时间抓TopDown。可以看到没有movprfx指令时，FSU Stall很高。 FSU Stall代表后端Float/SIMD Unit执行单元因为数据没准备好或流水线冲突而“空转”。在没有movprfx的场景中，FSU绝大多数时间在等待前一条指令写回寄存器堆（Dependency Stall），导致执行端口频繁停顿。添加movprfx指令后，FSU Stall直接消失，IPC从2提升至5。 3再谈movprfx movprfx在指令集中被定义为一种前缀指令（Prefix instruction），根本目的是为了实现“非破坏性（Non-destructive）”操作。ARM SVE为了精简指令编码空间，大部分算术指令（如ADD, FMLA等）都设计为“破坏性”的，即它们会将结果写回其中一个源操作数寄存器，从而覆盖原有的值。如ADD指令ADD Z2.D, Z2.D, Z1.D，如果不用movprfx，就无法单条指令实现在计算后保留z2寄存器。 movprfx的作用就是告诉CPU：“请把结果写到另一个寄存器去，不要破坏原来的那个。” movprfx Zd, Zn意味着把下一条指令的结果写到Zd，不要破坏原来的Zn寄存器。说明如下： ●Zd：为下一条指令的目标寄存器。不能是其他寄存器，否则报错； ●Zn：原来那个被破坏的寄存器； ●movprfx后面必须紧跟它要修饰的那条算术指令，中间不能插入任何其他指令（包括NOP）； ●movprfx与其后的指令在硬件执行时往往被“融合（Fuse）”成一条单一的操作。