开发者
资源
我要评分
获取效率
正确性
完整性
易理解
在线提单
论坛求助

环境要求

本文档源码构建验证环境以openEuler 24.03 LTS SP3系统编译构建FlashAttention 2.8.3版本为例。除此之外,本节介绍了源码构建验证可支持的其他环境信息。

可支持的版本

表1 版本范围

OS版本

Python版本

支持的FlashAttention版本范围

openEuler 24.03 LTS SP3

Python 3.11.6

FlashAttention 2.8.x

openEuler 22.03 LTS SP4

Python 3.9.9

FlashAttention 2.8.3要求Python为3.9版本及以上,但需同时满足PyTorch CUDA wheel、CUDA Toolkit和NVIDIA GPU环境要求

依赖组件要求

表2 依赖组件及版本

组件

版本

python3

3.11.6-20.oe2403sp3

python3-pip

23.3.1-7.oe2403sp3

python3-devel

3.11.6-20.oe2403sp3

GCC

12.3.1-105.oe2403sp3

GCC-C++

12.3.1-105.oe2403sp3

make

4.4.1-2.oe2403sp3

CMake

3.27.9-8.oe2403sp3

Git

2.43.0-10.oe2403sp3

Ninja

1.13.0

CUDA Toolkit

13.0

PyTorch

2.11.0+cu130