在这个信息爆炸的时代,您是否也遇到过这些困境?

✅ 翻遍100G文件找不到关键合同

✅ 读20篇论文抓不住核心观点

✅ 查3小时资料理不清项目脉络

在日常工作中,我们常常需要查阅大量的资料,无论是科研人员查找学术论文,还是企业员工整理项目文件,这些资料都包含了我们宝贵的知识和信息。然而,传统的资料查找方式不仅耗时费力,还容易遗漏关键信息。而通过本地部署DeepSeek并搭建知识库,我们可以将这些资料“喂”给AI,让它学习并理解我们的知识体系,从而实现高效的知识检索和应用。想象一下,当你有问题时,只需向你的AI助手提问,它就能瞬间从你的知识库中找到答案,这简直就像是拥有了一个“活的”资料库!

搭建本地知识库的步骤

搭建本地知识库听起来似乎很复杂,但实际上,只要按照以下步骤操作,即使是新手也能轻松上手。

1. 下载安装Docker

Docker是一个强大的容器化平台,它可以帮助我们轻松地部署和管理各种应用程序。首先,我们需要在Docker官网(https://www.docker.com/)下载并安装Docker desktop。

应用程序有Mac、linux、windows等版本可供选择。我的电脑是windows系统的,因此选择Windows版本下载。

安装完成后,重启电脑并打开Docker desktop ,确保它能够正常运行。

2. 安装Dify

Dify是一个基于LLM的大模型知识库问答系统,它集成了DeepSeek和私有知识库的功能。我们可以通过Docker来安装Dify。首先,访问Dify的GitHub页面(https://github.com/langgenius/dify),点击“Download ZIP”按钮下载源码,并将其解压到本地。

注意,解压路径不能包含中文字符,否则可能会导致后续运行失败。接着,打开PowerShell,进入Dify解压包中的docker目录,依次执行以下命令:

在Windows系统状态栏左下角点击 放大镜图标,打开搜索功能,然后输入powershell

打开PowerShell程序,然后输入下图中的命令

cp env.example .env

docker-compose up -d

Docker会自动拉取Dify的相关镜像并进行下载,这个过程大约需要10到20分钟。下载完成后,重启Docker desktop桌面软件,在Containers中可以看到Dify的镜像,状态显示为Running,这表示Dify已经成功安装并正在运行。

3. 部署DeepSeek和bge-large

接下来,我们需要部署DeepSeek以及bge-large模型。

然后在Ollama网站中搜索bge-large,点击进入后复制其下载命令,并在命令提示符窗口中执行该命令进行下载,如下图所示。

4. 配置Dify大模型

在浏览器中输入http://localhost/signin,进入Dify的登录界面并登录。

登录后,进入设置页面,在模型供应商中找到Ollama,点击“添加大模型”,将基础URL填写为http://host.docker.internal:11434,其他设置保持默认,点击“保存”。

接着,继续添加Text Embedding,用于知识库的bge-large模型。添加完成后,你将看到两个模型,这表示配置已经完成,请看下图。

5. 搭建知识库

回到Dify的主界面,点击“知识库”按钮,创建一个新的知识库。

上传你需要的文档,然后点击“下一步”。

知识库的配置可以采用默认设置,直接拉到页面最下方点击“保存并处理”。

此时,系统会开始创建知识库,并在嵌入完成后显示“嵌入已完成”,这表明知识库已经成功导入。

6. 创建应用

最后一步是在工作室中创建一个空白应用,并在其中创建一个聊天助手。

在聊天界面中点击“添加上下文”,将你刚刚创建的知识库导入进去。

此时,在聊天框中输入问题,AI助手就会根据知识库中的内容为你提供精准的答案,并在结果中引用相应的知识库文件。

如果你希望让外部用户也能访问这个知识库,可以添加外部知识库API,并配置好API Endpoint。当然,为了实现外部访问,你的机器需要处于公网环境中。

通过以上六个简单的步骤,我们就成功搭建了一个属于自己的本地知识库,并让AI助手能够根据我们的知识库进行高效的知识检索和应用。这个过程不仅简单易懂,而且具有极高的实用价值。无论你是科研人员、企业员工,还是任何需要高效管理知识和信息的人,本地知识库都能为你带来巨大的便利。

在这个信息爆炸的时代,知识就是力量,而能够高效地管理和应用知识更是成功的关键。通过DeepSeek和Dify,我们不仅能够将知识存储在一个安全、私有的环境中,还能让AI成为我们获取知识的得力助手。

AI大模型学习福利

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

大模型&AI产品经理如何学习

求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。

1.学习路线图

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

在这里插入图片描述

在这里插入图片描述

(都打包成一块的了,不能一一展开,总共300多集)

因篇幅有限,仅展示部分资料,需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
在这里插入图片描述

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
在这里插入图片描述

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐