集成AI+微服务

集成AI服务

1. 访问本地部署的AnythingLLM web服务页面。

   http://your_server_ip:port

2. 单击“开始”进入AnythingLLM RAG服务。

   

3. 接入LLM模型服务。
   1. 在主界面左下角单击符号进入配置页面。

      

   2. 选择LLM模型进行配置，支持使用LLM API Key和本地部署LLM模型。

      

4. 接入Embedding模型服务。

   选择Embedding模型进行配置，支持使用Embedding API Key和本地部署Embedding模型。

   

5. 接入openGauss向量数据库。

   选择openGauss作为向量数据库，存储用户上传的知识文档。

   

6. 进入主页创建工作区并上传用户知识文档。

   

7. 进入工作区进行知识问答。