保姆级教程：从零开始部署Ollma和Qwen大模型

★我们平时使用的等Ai对话工具，其服务器都是部署在各家公司的机房里，如果我们有一些隐私数据发到对话中，很难保证信息是否安全等问题，如何在保证数据安全的情况下，又可以使用大语言模型，Ollma（哦拉玛）可以告诉你答案！

和老莫一起学AI

5340人浏览 · 2024-11-12 10:24:54

和老莫一起学AI · 2024-11-12 10:24:54 发布

★

我们平时使用的ChatGPT、kimi、豆包等Ai对话工具，其服务器都是部署在各家公司的机房里，如果我们有一些隐私数据发到对话中，很难保证信息是否安全等问题，如何在保证数据安全的情况下，又可以使用大语言模型，Ollma（哦拉玛）可以告诉你答案！

”

这是一个保姆级的教程，从下载到成功运行Qwen2.5大模型，更适合没有玩过Ollma的小白宝宝哦~

1. Ollma 是什么？

★

一句话介绍：一个可以让你在本地启动并运行大型语言模型的工具！

”

Ollma是一个开源的大模型服务工具，他可以让你在一行代码不写的情况下，在本地通过一条命令即可运行大模型。

Ollma会根据电脑配置，自动选择用CPU还是GPU运行，如果你的电脑没有GPU，会直接使用CPU进行运行（可能有点慢）

2. 安装教程

Ollma官网：[https://ollama.com/]

模型仓库：[https://ollama.com/library]

2.1 首先去官网下载

从主页点击下载，直接跳转到了当前系统所兼容的下载界面，点击download，一键下载

2.2 下载好之后安装

博主的电脑是Mac，下载好之后，直接把压缩包解压，然后移动到应用程序中即可，其他操作系统，参考这个文档：

[Windows 下的安装与配置](https://datawhalechina.github.io/handy-ollama/#/C2/2.%20Ollama%20%E5%9C%A8%20Windows%20%E4%B8%8B%E7%9A%84%E5%AE%89%E8%A3%85%E4%B8%8E%E9%85%8D%E7%BD%AE)``[Linux 安装Ollma ](https://datawhalechina.github.io/handy-ollama/#/C2/3.%20Ollama%20%E5%9C%A8%20Linux%20%E4%B8%8B%E7%9A%84%E5%AE%89%E8%A3%85%E4%B8%8E%E9%85%8D%E7%BD%AE)``[Docker 安装 Ollma](https://datawhalechina.github.io/handy-ollama/#/C2/4.%20Ollama%20%E5%9C%A8%20Docker%20%E4%B8%8B%E7%9A%84%E5%AE%89%E8%A3%85%E4%B8%8E%E9%85%8D%E7%BD%AE)

下载好之后，打开，当这个帅气的小羊驼显示在你的任务栏中的时候，说明已经启动成功了！

image.png

2.3 测试一下

打开命令行，输入ollama -h看到以下界面，就可以进行下一步，操作了~

3. 导入开源Qwen 2.5 - 0.5B 大模型

3.1 去模型仓库搜索模型

我们在上面提到的Ollma模型仓库中找到最新的千问大模型

点进去，界面如下：

3.2 加载模型

将上面的命令复制到命令行，回车执行！等待下载

等进度100%了，即可使用模型

3.3 使用模型

在命令行中，即可开启与千问大模型的对话，看到这里，是不是感觉很简单，快去点个赞！

输入/bye方可结束对话。

都看到这里了，点个赞再走吧！码字实属不易呀。

4. 部署webUI可视化对话

本文使用FastAPI 部署Ollma可视化页面，简单4步即可

1、克隆仓库

git clone https://github.com/AXYZdong/handy-ollama

克隆完成进入目标目录：

cd handy-ollama/notebook/C6/fastapi_chat_app

2、安装依赖

pip install -r requirements.txt  
pip install 'uvicorn[standard]'

3、修改app.py 代码

输入vim websocket_handler.py命令（确保你在fastapi_chat_app目录下先）更改model代码

#!/usr/bin/env python  
# -*- coding: utf-8 -*-  
import ollama  
from fastapi import WebSocket  
  
async def websocket_endpoint(websocket: WebSocket):  
    await websocket.accept()  
    user_input = await websocket.receive_text()  
  
    stream = ollama.chat(  
        model='qwen2.5:0.5b',  
        messages=[{'role': 'user', 'content': user_input}],  
        stream=True  
    )  
  
    try:  
        for chunk in stream:  
            model_output = chunk['message']['content']  
            await websocket.send_text(model_output)  
    except Exception as e:  
        await websocket.send_text(f"Error: {e}")  
    finally:  
        await websocket.close()

4、运行模型

输入命令：

uvicorn app:app --reload``

即可开始对话：

点个赞再走吧！

零基础如何学习AI大模型

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型典型应用场景

①AI+教育：智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据，提供量身定制的学习方案，提高学习效果。
②AI+医疗：智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像，辅助医生进行早期诊断，同时根据患者数据制定个性化治疗方案。
③AI+金融：智能投顾和风险管理系统帮助投资者做出更明智的决策，并实时监控金融市场，识别潜在风险。
④AI+制造：智能制造和自动化工厂提高了生产效率和质量。通过AI技术，工厂可以实现设备预测性维护，减少停机时间。
…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。