环境要求
本文档以在openEuler 24.03 LTS SP3系统上安装FlashAttention 2.8.3版本为例。除此之外，本节介绍了鲲鹏服务器上安装FlashAttention可支持的其他环境信息。
可支持的版本
OS版本 |
Python版本 |
支持的FlashAttention版本范围 |
|---|---|---|
openEuler 24.03 LTS SP3 |
Python 3.11.6 |
FlashAttention 2.8.x |
openEuler 22.03 LTS SP4 |
Python 3.9.9 |
FlashAttention 2.8.3要求Python为3.9版本及以上，但需同时满足PyTorch CUDA wheel、CUDA Toolkit和NVIDIA GPU环境要求。 |
依赖组件要求
组件 |
版本 |
|---|---|
python3 |
3.11.6-20.oe2403sp3 |
python3-pip |
23.3.1-7.oe2403sp3 |
CUDA Toolkit |
13.0 |
PyTorch |
2.11.0+cu130 |
FlashAttention |
2.8.3 |
使用GPU能力时，系统需要提供可访问的NVIDIA GPU设备、CUDA Toolkit以及匹配的NVIDIA驱动用户态库。
父主题： 安装前准备