模型部署说明
鲲鹏AI Agent解决方案配套的大模型提供两种灵活部署模式,企业可根据自身业务场景、硬件条件、算力需求及数据隐私合规要求,灵活选择适合的部署方式。
- 云端托管部署:通过服务端AI服务实现模型推理与调度,无需本地高配算力硬件,具备快速上线、运维便捷的优势。
- 本地私有化部署:将模型完整运行于本地硬件,数据不出内网,高度适配内网隔离、隐私敏感类业务场景。本地部署需依据实际硬件配置,严格按照模型官方标准化流程进行安装与调试,保障AI Agent核心服务的稳定与可靠运行。
父主题: 部署AI服务