在上一篇基础上,现在我们需要配置本地运行的大模型到Dify上,我们配置了deepseek-r1:7b\qwen2:7b等本地部署大模型上去
在这里插入图片描述
接下来就是配置知识库,因为我们要根据语义生成sql,我们得跟他说哪一个表有哪些字段,分别是什么意思?因此需要知识库。

在这里插入图片描述
需要安装bge-m3向量模型才能更好的使用分段配置功能,才能高质量分段,这样命中率才会稍微高一点。

接下来新建agent,设定他的角色职能,以及将我们的知识库和工作流集成进去
在这里插入图片描述
注意这边的工具,就是工作流,需要在工作流配置页面先将其配置发布为工具,不然这边就无法调用工具。
在这里插入图片描述
后续就可以在agent对话页面中测试问他数据表中的问题,他会将语义转为sql然后再去调用工具执行sql。
在这里插入图片描述
在这里插入图片描述

这边有个问题:
我本地运行deepseek模型,也能正常添加到dify中,但是在agent中调用模型的时候接口就会报错,这个问题至今还没解决,目前只能先用qwen2模型。
在这里插入图片描述

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐