
没有网?没问题!deepseek离线部署与PyCharm离线接入本地模型全攻略(附插件和模型)
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。有朋友反馈,可能由于工作性质原因,工作环境是没有网络的,那么问题来了,在没有网络环境的情况下,如何部署并使用本地deepseek模型呢?这个需要根据大家的实际环境去操作!所以说我们先要在
前 言
有朋友反馈,可能由于工作性质原因,工作环境是没有网络的,那么问题来了,在没有网络环境的情况下,如何部署并使用本地deepseek模型呢?PyCharm如何接入本地模型呢?
本次就分享,我们进行没有网络的状态下,deepseek本地模型搭建、PyCharm接入本地模型,实现在离线状态下仍可以用工具PyCharm 进行 AI 辅助编程。
概 要
在没有网络环境的情况下,安装软件、配置、部署等,有个非常大前提,就是要有相应的软件安装包、模型文件、插件等。
所以说我们先要在有网络的环境下,把这些要用到的安装包下载下来,再通过U盘、局域网或其他方式,Copy到没有网络环境的电脑上。
前期准备
环境
小编系统是 windows 10 和 windows 11
安装包
我们本次先要准备的有:
Ollama软件安装包
deepseek-r1模型
PyCharm软件工具
PyCharm插件CodeGPT
一、Ollama软件安装包
这个过程,分两个部分
第一部分:在一台有网络的电脑上下载 和 安装Ollama(一定要安装,下载deepseek模型会用到)。
第二部分:将下载的Ollama安装包,通过U盘、局域网或其他方式,Copy到那台没有网络环境的电脑上,以相同的步骤再安装一次。
第一部分:安装Ollama
第一步,打开网站
https://ollama.com/
第二步,下载
选择与系统匹配的版本
小栈是windows系统,本次就以此为例
第三步,安装
找到下载的Ollama软件
右击 【以管理员身份运行】
点击【Install】默认安装即可
安装过程完全是自动的,安装完成后,在cmd命令窗口输入ollama list命令
由于电脑并没有安装过其他的,刚安装ollama现在执行这条命令应该是空的,这个已经表明安装成功!
第二部分:复制及安装
将下载的Ollama安装包,通过U盘、局域网或其他方式,Copy到没有网络环境的那台电脑上。
按照以上的安装步骤,安装完成即可!
二、下载deepseek模型
这个过程,也分两个部分
第一部分:在上面Ollama安装成功的电脑上(就是有网络的那台)下载和搭建deepseek本地模型。
第二部分:将第一部分下载deepseek本地模型,通过U盘、局域网或其他方式,Copy到那台没有网络环境电脑上的相同路径里面。
第一部分:下载deepseek模型
第一步,查看版本
我们先看一下deepseek的版本,打开Ollama官网,点击左上角菜单【Models】
deepseek-r1 目前一共有7个不同版本,随着版本参数变大对电脑要求也会变高,电脑没有大显存GPU的朋友,推荐安装1.5b版本,其他版本需要较大显存GPU。
这版本,即使是无GPU的普通电脑也能流畅运行。
我们进行deepseek详细版本页面,复制命令
第二步,命令安装
打开电脑cmd命令窗口
输入安装命令:
ollama pull deepseek-r1:1.5b
大约等10分钟左右的时间
出现success,则已经安装完成
第三步,使用验证
安装完成后,我们来使用,验证一下效果
在cmd命令窗口输入
ollama run deepseek-r1:1.5b
出现 Send a message,这个就是输入问题的地方
我们可以直接在这里提问
比如提问:“学习编程方面,我们该如何学习,请列出5个学习的方法”
使用没有问题!~~
第二部分:打包deepseek模型
上面下载的deepseek模型,默认是在C盘的用户目录,
比如,小编的目录就是在
C:\Users\admin_h\.ollama
最后,把这些文件,通过U盘、局域网或其他方式,Copy到那台没有网络环境的电脑上。
那台没有网络电脑上已经安装成功Ollama,那么在C盘用户下肯定会有.ollama文件夹,粘贴并覆盖即可。这个需要根据大家的实际环境去操作!
接下来,我们来验证一下这种粘贴这来的方式,是否可用?
仍在打开命令窗口,在cmd命令窗口输入
ollama run deepseek-r1:1.5b
同样出现 Send a message,这个就是输入问题的地方
我们可以直接在这里提问
比如提问:“爬虫必备的三方库都有什么?请列出5种”
OK,我们把模型移动到另台离线的电脑使用,同样没有问题!
注:deepseek-r1:1.5b 模型毕竟还是有点低了,如果大家电脑配置允许,可以下载一个高版本的模型,再复制过去使用。
小编猜测,既然办公环境对网络限制比较严格,那工作电脑应该配置不低才对,资源充分利用,再好不过
三、PyCharm软件工具
这个过程,仍分两个部分
第一部分:下载PyCharm软件和激活工具。
第二部分:通过U盘、局域网或其他方式,Copy到那台没有网络环境的电脑上,安装。
下载软件
官网地址:
https://www.jetbrains.com.cn/pycharm/download/?section=windows
下载专业版
pycharm-professional-2024.3.2.exe
PyCharm安装
PyCharm编码工具是最基本的软件,相信大家都在用,这里安装就不再赘述了。
但需要注意的是,使用AI类的插件,建议最较新版本的PyCharm。
把安装包 和 激活工具,通过U盘或局域网Copy到没有网络的电脑上,安装即可!
四、CodeGPT下载及安装
这个过程,还分两个部分
第一部分:下载PyCharm中使用的CodeGPT插件。
第二部分:通过U盘、局域网或其他方式,Copy到那台没有网络环境的电脑上,手动安装。
下载插件
找到官网:
https://plugins.jetbrains.com/
小编在文章尾部也会将 CodeGPT插件 包分享出来,可直接下载
打开官网,我们先搜索Proxy AI
这里为什么是搜索 Proxy AI呢? 是因为 Proxy AI 和 CodeGPT 是同一个插件的不同名称,当安装完成后,PyCharm 中会显示为 CodeGPT 。
注意是CodeGPT,而非CodeGPT:Chat & Al Agents
因为后者需要一个登录操作,才可以使用,如果安装在没有网络环境中,是不可用的。
然后,选择 Proxy AI
最后,在 Proxy AI 插件页面,选择 Versions,再找对应的 Proxy AI 版本 ,点击【Download】即可。
这里我们选择最新的2.16.3-241.1版本
其实下载完成后,就是CodeGPT,记住下载保存的路径,这里备用即可
注:手动安装插件可能会遇到兼容性问题,因此建议下载插件时,注意要与你PyCharm版本适配
CodeGPT插件安装
将下载好的【CodeGPT-2.16.3-241.1.zip】通过U盘或局域网Copy到没有网络的电脑中,手动安装CodeGPT插件步骤,如下:
第一步,打开Settings界面
打开PyCharm界面, File -> Settings
第二步,打开Plugins 的设置(小锯齿轮)
第三步,选择从本地导入安装
选择 Install Plugin from Disk
第四步,选择下载的CodeGPT插件
小编的路径是在
C:\Users\admin_h\Downloads\CodeGPT-2.16.3-241.1.zip
大家根据自己下载路径,对应的去寻找到即可
第五步,完成安装
返回到设置页面,先点击【Apply】,再点击【OK】
第六步,验证是否安装成功
返回到PyCharm窗口界面,就会发现默认在左上侧,有个以白色花型图标,说明已经安装成功!
注:
有的版本安装完成后需要重启PyCharm,有的CodeGPT是默认在右上侧,具体情况可能是由于PyCharm的版本,没有任何影响。
小编建议,安装完成后,可以重启一下,以免在设置的时候,有某些未知问题!
第七步,配置本地deepseek模型
打开 PyCharm 设置页面:
Settings -> Tools -> CodeGPT -> Ollama(Local)
选择本地搭建的deepseek-r1:1.5b模型即可
小编本地就搭建了这一个,所以打开这个设置界面,会默认显示出来,如果有朋友部署较多模型的,就根据自己的需要选择一下即可!
返回到PyCharm窗口,就可以看到CodeGPT默认使用的模型就是本地模型了
我们使用验证一下:
输入指令:
我是一名Python程序开发工程师,` `需求是:写一个函数,实现在对一个列表元素进行排序,排序方式是先按字母排序,``再按数字从小到大升序排序
看回复效果:
先是思考过程
然后是具体代码实现
点击【Insert at Caret】,会将代码自动写入指定的py文件中
测试一下:
输出结果一致
注意,有对话框上面有个Tokens,这个地方不是计费的,只是一个统计而已。使用自己电脑的算力,无需担心!
OK,到这里,已经完成了,大家有这方面需求的人,可以试试了
总 结
朋友们,离线搭建部署的前提,也就是以上所有的 第一部分 均是需要在有网络的环境下,把Ollama、deepseek模型、PyCharm安装包 和 CodeGPT插件 都下载。
当所有需要的软件安装包就绪,也就是以上所有的 第二部分 ,离线搭建部署就可以在那台没有网络的电脑上进行了。
这样就解决了,当在没有网络环境下,无法用命令在线下载deepseek模型 和 无法安装PyCharm插件的问题。
这个过程有点麻烦,但遇到没有网络的环境,也是没有办法的事情。如果想用,那就得多花点时间了!
希望本次分享可以帮到有同样问题的朋友,祝大家一次安装成功,让那“封闭”的环境里面工作不那么枯燥无味!
AI大模型学习路线
如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!
扫描下方csdn官方合作二维码获取哦!
这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
100套AI大模型商业化落地方案
大模型全套视频教程
200本大模型PDF书籍
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
LLM面试题合集
大模型产品经理资源合集
大模型项目实战合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

更多推荐
所有评论(0)