介绍

本文主要向用户介绍鲲鹏服务器上SGLang的开发指南，包含源码构建、安装和基础导入验证场景。

SGLang采用RadixAttention基数树缓存与编译器级静态图分析等核心技术，可将多轮对话和Agent任务中的重复前缀计算减少75%以上，吞吐量提升最高达6.4倍。 基于鲲鹏服务器部署SGLang，其开源ARM64架构支持可在openEuler操作系统上实现零代码修改的无缝迁移。