一、概述 DCT（离散余弦变换）是视频编码变换阶段的核心算子，为 x265、H.265 编码压缩的关键技术。原始空域图像像素相关性高、冗余信息多，不利于压缩，而 DCT 变换可将空域残差信号转换为频域信号，实现图像能量集中。在 x265 编码流程中，DCT 变换主要作用于帧内、帧间预测后的残差块。经过变换后，图像有效能量集中在矩阵左上角的低频系数中，人眼不敏感的细节、噪声等高频信息集中在矩阵右下角。基于该特性，编码后续可通过量化操作压缩高频系数、保留核心低频信息，在几乎无主观画质失真的前提下，大幅消除图像冗余，有效提升视频编码的压缩效率。二、背景介绍 DCT（Discrete Cosine Transform，离散余弦变换）是视频编码变换阶段的核心算子。x265中的整数DCT计算主要是通过计算像素块和DCT变换系数矩阵乘法实现的。矩阵乘法过程中，为了避免乘法溢出，会进行整数提升（如int16_t相乘需要转成int32_t），最后再转回原始类型（int32_t结果再转回int16_t）。上述过程为了缩放回原始类型的取值范围，实现正确的舍入，会对结果进行缩放，缩放公式如下。具体而言，整数DCT涉及两轮矩阵乘法（pass1和pass2），每轮矩阵乘法的结果矩阵中每个元素都会用上述公式进行缩放操作。上述缩放操作较为简单，因此后文不再进行讨论，只讨论整数DCT计算中的矩阵乘法操作。排除缩放操作的情况下，令X为待变换的像素块，H为整数DCT变换系数矩阵，整数DCT变换的计算公式如下所示：上述公式中，x265对上述公式进行了等价变换，令矩阵乘法都统一变成了右乘HT矩阵，公式可以分为两部分，即两轮矩阵乘法。由于上述公式的两轮矩阵乘法形式是相同的，在具体实现过程中可以通过调用两次矩阵乘法实现。而公式中涉及到的转置，可以在矩阵乘法写入结果时，通过按列写入，实现自然转置（x265就是这样实现的），如下图所示。实际x265实现则会利用变换系数矩阵的对称性，将矩阵乘法分解为一系列蝶形运算，减少重复计算，从而降低矩阵乘法的计算量。三、指令优化 3.1 movprfx 与dot[index]指令融合汇编指令movprfx和dot[index]可以进行指令融合，使用movprfx和dot[index]替代mov和dot指令，可以加速指令执行（注：movprfx + dot 不存在融合）。代码优化中实际使用的是sdot指令，下面给出对应的是sdot和sdot[index]的效果图。而sdot[index]则是多了一部分索引指定的效果，op3就是指定寄存器对应索引部分参与计算。具体的优化操作如下：优化前：使用movprfx + dot[index]优化： 3.2 fast forwarding特性降低时延 sdot 向同一个寄存器累加结果，可以利用fast forwarding特性降低指令时延。例如，第一个sdot的时延为3L，后续sdot的时延都是1L，可以优化执行时延。 3.3 控制结果类型，充分利用带宽实际计算中，可以考虑参与计算的变量大小，控制中间结果类型。在DCT算子优化过程中，分析DCT第一轮计算中中间结果数组不会溢出，不需要提升类型为int32_t，则可以充分利用带宽，提升一次性参与的计算量。具体实现代码暂不列举。四、收益分析通过上述优化手段，最终可以在DCT8x8和DCT16x16的向量化实现基础上继续提升4.51%和5.39%的性能。五、实践总结对点乘比较多的场景，观察是否可以通过指令融合，以及指令是否具备fast forwarding特性降低指令时延。