基于香橙派鲲鹏pro开发板快速搭建你的智能助手平台(openGauss Datavec + Dify)
发表于 2025/05/21
0
基于香橙派鲲鹏pro开发板快速搭建你的智能助手平台(openGauss Datavec + Dify)
1 案例介绍
在当今数字化和智能化的时代，大语言模型（LLM）的应用正以前所未有的速度改变着各个领域的工作方式和用户体验。Dify 作为一个开源的大语言模型应用开发平台，为开发者们提供了便捷且强大的工具，助力构建从基础智能体到复杂人工智能工作流程的各类大语言模型应用。其核心优势在于集成了检索增强（RAG）引擎，通过对海量数据的智能检索与分析，能够精准地为大语言模型提供相关信息，极大地提升模型输出的准确性和相关性。 本案例着重介绍基于香橙派鲲鹏pro开发板如何部署Dify，并使用openGauss DataVec向量数据库作为RAG引擎语料库，从而搭建出高效智能的助手平台。
1.1 案例环境介绍
本案例基于香橙派鲲鹏pro开发板上的鲲鹏处理器和openGauss数据库。
openGauss是关系型数据库，采用客户端/服务器，单进程多线程架构，支持单机和一主多备部署方式，备机可读，支持双机高可用和读扩展。
有关openGauss的详细介绍和资源可以参考如下网址：
1.2 案例设备介绍
关键配置如下表所示：
|
资源 |
规格 |
|
香橙派鲲鹏pro开发板1台、网线1根 |
开发板：4核鲲鹏CPU，16G内存 |
|
个人pc |
需要可以和开发板正常连接 |
|
香橙派鲲鹏pro开发板默认IP |
192.168.10.8 |
|
用户及密码 |
root用户对应密码(openEuler) |
1.3 案例软件工具介绍
软件方面，本案例需要一台终端电脑与香橙派鲲鹏pro开发板连接以输入操作命令。对于Windows 10 / macOS / Linux，我们可以用命令行工具ssh完成这个过程。如果在有些Windows系统下不能运行ssh工具，也可以使用Putty或者MobaXterm工具软件。
2 案例环境搭建
2.1 连接并登录到香橙派鲲鹏pro开发板
2.1.1 网线直连开发板
本方式硬件连接如下所示：
使用网线连接开发板和PC。
开发板插入网线，另一端连接PC，启动上电。
2.1.2 配置个人PC的网络设置
开发板通过网线和个人PC连接后，需要使开发板的ip地址（192.168.10.8）和个人PC的以太网处于同一网段，才能实现网络互联。
具体操作步骤如下：
步骤 1 打开Windows设置。
在PC上打开“开始”，单击“设置”按钮，进入“Windows 设置”界面：
步骤 2 打开更改适配器选项。
选择“网络和Internet”，单击“更改适配器选项”：
步骤 3 打开连接网线对应的以太网属性。
出现已连接的“以太网x”就是开发板网线连接接口，如下图中的“以太网3”，选中后右键打开，点击“以太网x”的属性：
步骤 4 修改IPV4属性。
修改“Internet 协议版本 4（TCP/IPv4）”的属性，如下图：
步骤 5 设置ip和子网掩码。
勾选“使用下面的 IP 地址”选项，填写IP地址（此处设置为192.168.10.1）和子网掩码，默认网关与DNS服务器地址为空，单击“确定”保存：
步骤 6 验证。
在键盘上使用快捷键“Win+R”，在运行窗口输入cmd进入命令行窗口。输入ipconfig命令查询PC网口IP地址是否修改成功：
C:\Users\用户实际信息>ipconfig
2.2 登录开发板
2.2.1 通过cmd登录开发板（方式一）
在键盘上使用快捷键“Win+R”，在运行窗口输入cmd进入命令行窗口。
然后运行如下ssh登录命令：
ssh root@192.168.10.8
输入密码然后按下“Enter”键，默认开发板上root用户的密码为openEuler。
登录成功后的界面如下所示：
2.2.2 使用ssh工具登录开发板（方式二）
也可以通过其它ssh工具软件登录到开发板，如MobaXtrem、xshell、putty等。这里以MobaXtrem为例显示。
从本地电脑通过配置香橙派鲲鹏pro开发板的IP地址（如：192.168.10.8）来连接香橙派鲲鹏pro开发板，并使用root用户及对应密码(openEuler)来登录。
输入root用户及对应密码(openEuler)，然后按“Enter”键登录。
2.3 开发板网络连接（推荐）
2.3.1 WIFI连接
步骤 1 连接前准备。
根据1.2 连接并登录到香橙派鲲鹏pro开发板 先连接并登录到开发板。
步骤 2 扫描WIFI热点。
开发板上执行nmcli dev wifi 命令扫描周围的 WIFI 热点：
[root@openEuler ~]# nmcli dev wifi
步骤 3 连接指定WIFI。
然后使用 nmcli 命令连接扫描到的 WIFI 热点，其中：
a. wifi_name 需要换成想连接的 WIFI 热点的名字。
b. wifi_passwd 需要换成想连接的 WIFI 热点的密码。
[root@openEuler ~]# nmcli dev wifi connect wifi_name password wifi_passwd输入命令，以Ljm_iPhone为例，
连接成功后输出：成功用 "wlan0ab877337-e465-440a-852d-c95ee6b5f4b0" 激活了设备 。
步骤 4 测试WIFI是否连通。
使用ping命令可以测试WIFI网络的连通性，ping命令可以通过Ctrl+C快捷键来中断运行。
[root@openEuler ~]# ping www.hikunpeng.com -I wlan0输出结果如下图所示。
3 智能问答助手搭建
3.1 步骤介绍
基于openGauss DataVec + Dify快速搭建一个智能问答助手分如下四步：
1、在开发板上部署dify框架。
2、安装插件，对接云服务的大模型服务。
3、基于opengauss创建本地的知识库。
4、基于本地知识库完成问答助手搭建。
3.2 操作内容
步骤 1 删除防火墙[root@openEuler docker]# yum remove firewalld步骤 2 重新登录到开发板
参考 “2.2 登录开发板” 。
步骤 3 查看路由状态及防火墙状态[root@openEuler docker]# systemctl status iptables //查看路由状态
[root@openEuler docker]# systemctl status firewalld //查看火墙状态
步骤 4 下载dify-1.1.3的源码包
https://github.com/langgenius/dify/tree/1.1.3
下载完后，文件名为dify-1.1.3.zip。
步骤 5 下载docker-compose
https://github.com/docker/compose/releases
下载完后，文件名为docker-compose-linux-aarch64。
步骤 6 创建工作目录
[root@openEuler ~]# mkdir /usr/local/dify步骤 7 上传文件至开发板
将下载的文件dify-1.1.3.zip、docker-compose-linux-aarch64上传至/usr/local/dify目录。
步骤 8 解压安装dify
[root@openEuler ~]# cd /usr/local/dify
[root@openEuler dify]# unzip dify-1.1.3.zip -d /usr/local/dify/步骤 9 配置dify参数
[root@openEuler dify]# cd /usr/local/dify/dify-1.1.3/docker
[root@openEuler docker]# cp .env.example .env使用vim命令打开并编辑 .env文件。
[root@openEuler docker]# vim .env按i进入插入模式，修改对应387行，将VECTOR_STORE的值改为opengauss，如下图。
修改好后，按键盘上“Esc”键，然后输入:wq进行保存退出文件编辑。
修改权限，使用vim命令打开并编辑 docker-compose.yaml文件
[root@openEuler docker]# vim /usr/local/dify/dify-1.1.3/docker/docker-compose.yaml按i进入插入模式，修改对应546、568行，增加privileged: true， 如下图：
修改好后，按键盘上“Esc”键，然后输入:wq进行保存退出文件编辑。
步骤 10 安装docker-compose
[root@openEuler docker]# cd /usr/local/dify
[root@openEuler dify]# mv docker-compose-linux-aarch64 /usr/bin/docker-compose
[root@openEuler dify]# chmod 777 /usr/bin/docker-compose
[root@openEuler dify]# cd /usr/local/dify/dify-1.1.3/docker
[root@openEuler docker]# yum install docker
[root@openEuler docker]# systemctl start docker步骤 11 拉取镜像
直接拉取可能会下载到x86版本的nginx，可以手动拉取并改名。
拉取并改名（方式一）。
[root@openEuler docker]# docker pull arm64v8/nginx:latest
[root@openEuler docker]# docker tag arm64v8/nginx:latest nginx:latest如果网络不好，拉取可能会报错，此时可以采用方式二。
拉取并改名（方式二）。
拉取(大概要执行20分钟左右)
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-api:1.1.3
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-web:1.1.3
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/postgres:15-alpine
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/redis:6-alpine
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-sandbox:0.2.11
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-plugin-daemon:0.0.6-local
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/squid:latest
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/nginx:latest
docker pull swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/opengauss:7.0.0-RC1改名
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-api:1.1.3 langgenius/dify-api:1.1.3
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-web:1.1.3 langgenius/dify-web:1.1.3
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/postgres:15-alpine postgres:15-alpine
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/redis:6-alpine redis:6-alpine
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-sandbox:0.2.11 langgenius/dify-sandbox:0.2.11
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/dify-plugin-daemon:0.0.6-local langgenius/dify-plugin-daemon:0.0.6-local
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/squid:latest ubuntu/squid:latest
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/nginx:latest nginx:latest
docker tag swr.cn-north-4.myhuaweicloud.com/kunpeng-ai/opengauss:7.0.0-RC1 opengauss/opengauss:7.0.0-RC1步骤 12 启动容器
[root@openEuler docker]#docker rm $(docker ps -aq)
[root@openEuler docker]#docker-compose up -d容器第一次启动要连接数据库等，所以会花费几分钟。
注：关闭容器命令docker-compose down
一切顺利会得到类似这样结果：
[root@localhost docker]# docker ps |grep docker-
步骤 13 登录dify
等过几分钟后，就可以在本地浏览器 http://192.168.10.8/ 进行登录。
注：浏览器不要对服务器ip做代理，且本地要能连接互联网。
创建账号，密码，即可登录。
步骤 14 对接云服务大模型
右上角点击“插件”-“探索Marketplace”-“模型”下载导入模型的插件（以通义千问为例）-安装插件（通义千问）。
可能要几分钟，如果一次没有安装成功可多安装几次。
步骤 15 登录阿里云申请账号
登录https://bailian.console.aliyun.com/?tab=model#/api-key，申请账号，并创建一个API-KEY。
步骤 16 Dify上配置模型API-KEY
进入账户设置页面。
配置API-key。
请确保KEY能正常使用。
步骤 17 创建知识库
创建知识库，并导入期望的文本。
选择Embedding模型。
检索设置。
保存处理成功显示如下：
步骤 18 创建聊天助手
在工作室界面，选择创建空白应用。
创建聊天助手，填写应用名，然后点击“创建”按钮。
配置模型，先设置提示词“结合知识库回答问题”，并导入知识库。
接着点击发布，选择发布更新。
再点击运行，即可生成问答界面。
未使用知识库时，提问反馈：
使用知识库后，提问反馈：
至此智能助手平台搭建完成。
4 更多学习
更多学习内容请扫码报名参加 “鲲鹏技术学习加油站”。
