在Dify中,一个“应用”是指基于GPT等大语言模型构建的实际场景应用。通过创建应用,您可以将智能AI技术应用于特定的需求。它既包含了开发AI应用的工程范式,也包含了具体的交付物。
Dify中提供了五种应用类型:
轻点Dify平台首页左侧的“创建空白应用”,选择“聊天助手”类型应用并进行简单的命名。
单击右上角“模型”选择下拉框,选择AI+微服务集成中集成的LLM模型。可以把鼠标放到每个参数后面的“?”标签上查看具体的说明,根据实际场景进行对应的调整。
配置完成后即可在聊天框中进行互动。输入“写一个矩阵乘法的代码示例,使用鲲鹏ktfop库提供的函数接口进行加速:给定张量a,b以及参数结构体M,执行矩阵乘法,结果放到output中”,输出如下所示,聊天助手并没有正确使用到ktfop库的matmul函数。本次对话还未使用RAG功能,如果需要使能RAG则该聊天助手应用需要关联知识库,具体的操作参考下面“在应用内集成知识库”的流程。
知识库可以作为外部知识提供给大语言模型用于精确回复用户问题,您可以在Dify的所有应用类型内关联已创建的知识库。
在上面创建的聊天助手应用的编排页面,“上下文”区域内单击“添加”按钮添加知识库。
LLM将首先从知识库内获取与问题相关上下文,在此基础上进行总结并给出更高质量的回答。在对话框内输入相同的问题“写一个矩阵乘法的代码示例,使用鲲鹏ktfop库提供的函数接口进行加速:给定张量a,b以及参数结构体M,执行矩阵乘法,结果放到output中”,聊天助手通过结合知识库中的ktfop接口使用示例进行了较为正确的回答,输出如下:
构建完成后,您可以将该AI应用分享给他人使用或集成至其它网站内。
单击“运行”,则在浏览器页面打开当前创建的聊天助手应用,其他用户可以直接访问该链接进行创建会话、问答。
或者选择
,是将准备好的AI应用嵌入到您的官网页面。依次单击 ,选择script标签方式,将script代码复制到网站<head>或<body>标签中。