
Mac本地运行Dify,并连接使用qwq 32b大模型
运行环境git下载dify访问官方直接下载安装没啥需要配置的,都是下一步下一步安装完成先把通义千问跑起来dify启动完成之后访问本地 localhost或者127.0.0.1就可以了,默认绑定443和80端口这里输入信息进行注册,然后就可以看到下面的界面登录进来之后点击头像位置,打开设置点击模型供应商、选择Ollama添加完成之后就可以看到在这里会有显示创建聊天助手至此,本地运行Dify配置本地大
运行环境
docker 24.0.5
ollama version is 0.5.4
1. 下载并启动dify
git下载dify
git clone https://github.com/langgenius/dify.git
进入 Dify 源代码的 docker 目录,执行一键启动命令:
cd dify/docker
cp .env.example .env
docker compose up -d
2. ollama下载并运行
访问官方直接下载
https://ollama.com/download
安装没啥需要配置的,都是下一步下一步
安装完成先把通义千问跑起来
ollama run qwq:32b
3. dify配置大模型
dify启动完成之后访问本地 localhost或者127.0.0.1就可以了,默认绑定443和80端口
这里输入信息进行注册,然后就可以看到下面的界面
登录进来之后点击头像位置,打开设置
点击模型供应商、选择Ollama
这里我们只配置LLM,注意基础URL要填写:http://host.docker.internal:11434
添加完成之后就可以看到在这里会有显示
4. 开启聊天
创建聊天助手
至此,本地运行Dify配置本地大模型已经完成
如何学习大模型
现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。
作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。
下面这些都是我当初辛苦整理和花钱购买的资料,现在我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来
,需要的小伙伴可以扫取。

一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。
再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。
因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。
更多推荐
所有评论(0)