介绍
本文主要向用户介绍鲲鹏服务器上Safetensors的开发指南,包含源码构建、安装和开发验证场景。
Safetensors文件头部采用JSON描述元数据、后接纯二进制数据区的简洁结构,彻底摒弃了传统Pickle序列化可能执行任意代码的逻辑,从设计根源上阻断了恶意模型文件加载带来的安全风险。Safetensors凭借其开源ARM64架构兼容性,在openEuler操作系统上可直接运行,无需代码改造即可享受零拷贝内存映射带来的数倍加载速度提升。
Safetensors本身不依赖GPU,源码构建和功能验证不需要安装CUDA或GPU运行时。
父主题: 开发指南