对于NVIDIA Blackwell架构的显卡,需要使用最新版本的cuda-12.8,同时tensorRT也需要最新版本TensorRT 10.8,对应pytorch也需要使用没有发布的开发版本2.7.0.dev20250226+cu128.

cuda安装

CUDA Toolkit 12.8 Downloads | NVIDIA Developer

tensorRT安装

TensorRT 10.x Download | NVIDIA Developer

pytorch安装

pip install --pre torch torchvision  --index-url https://download.pytorch.org/whl/nightly/cu128

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐