1.概况

由于工作太忙,已经连续断更三年的我,今天实在忍不住给大家分享一些自己的学习笔记。大语言模型就是神仙打架,从gpt到deepseek再到Manus,但是Manus需要申请权限,而且很难申请下来,甚至一个账号售价达到了几万RMB,OpenManus(github网站如下所示:mannaandpoem/OpenManus: No fortress, purely open ground. OpenManus is Coming.)看不下去了,花了三天时间给搞出来了。今天这个文章我就带大家把OpenManus如何本地部署给详细走一遍,后面准备录制一个视频,大家多多关注我的账号哦。

2.环境搭建

2.1安装miniconda或者anaconda

(1)进入anaconda网站下载

(2)检测安装是否成功

cmd进入输入conda,就会出现一系列的conda信息如下

表明conda安装成功。

(3)创建并激活虚拟环境

  • 首先创建虚拟环境
conda create -n open_manus python=3.12

这就把虚拟环境创建成功了

  • 激活虚拟环境
conda activate open_manus

这个虚拟环境就激活成功了

  • 下载OpenManus代码

有git的可以使用以下命令下载,没有的直接再github里面下载。

git clone https://github.com/mannaandpoem/OpenManus.git

这就下载完成了OpenManus的代码

下一步

(4)下载OpenManus必要的组件

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple  

这里我们使用的清华镜像源进行安装,否则会非常的慢

这就把所有的组件都安装成功了。

2.2 LLM编程接口配置

OpenManus 需要对其使用的大语言模型(LLM)的应用程序编程接口(APIs)进行配置。按照以下步骤来设置你的配置。

(1)在配置目录中创建一个名为“config.toml”的文件。

官网给的是Linux版本的,如下:

cp config/config.example.toml config/config.toml

我们需要改为windows版本,如下:

copy config\config.example.toml config\config.toml  

(2)编辑“config/config.toml”这个文件,添加你的 API 密钥并自定义设置。

官网使用的openai的,但是openai是收费的,我们使用免费的,再本地使用ollama。

  • 下载ollama

下载地址如下所示:

Ollamahttps://ollama.com/安装如下:

  • 安装以后配置环境变量

  • 查看是否安装成功

  • 下载model

进入官网下载model,链接如下

mistralhttps://ollama.com/library/mistral

下载默认的7B 的mistral。如下:

这样,我们就安装好了。

  • 修改配置文件

在OpenManus安装目录下(即为:C:\Users\18851\OpenManus\config)有一个config.toml文件,

这个文件如下:

# Global LLM configuration
[llm]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."
max_tokens = 4096
temperature = 0.0

# [llm] #AZURE OPENAI:
# api_type= 'azure'
# model = "YOUR_MODEL_NAME" #"gpt-4o-mini"
# base_url = "{YOUR_AZURE_ENDPOINT.rstrip('/')}/openai/deployments/{AZURE_DEPOLYMENT_ID}"
# api_key = "AZURE API KEY"
# max_tokens = 8096
# temperature = 0.0
# api_version="AZURE API VERSION" #"2024-08-01-preview"

# Optional configuration for specific LLM models
[llm.vision]
model = "claude-3-5-sonnet"
base_url = "https://api.openai.com/v1"
api_key = "sk-..."

由于openai是收费的,对上面的文件首先需要修改为自己本地部署的model、base_url以及api_key(本地部署的只需要修改model和url就可以不需要api_key),但是用在线的就需要填写,本文用的是在线的,修改为:

修改这个文件:

这样我们就算设置完了。

2.3 测试

重新cmd,激活open_manus这个环境。然后cd 到OpenManus这个根目录。如下:

调用主函数:

python main.py

如下:

发现,我们已经成功的跑起来了。

学习与交流:+V:paper1124

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐