解决 Torch not compiled with CUDA enabled 问题 | MiniCPM3-4B 【应用开发笔记】

ops/2024/9/22 21:33:51/

最近在研究测试MiniCPM3-4B,这里记录一下遇到的cudatorch版本问题

在调试和运行MiniCPM3-4B过程中如果出现找不到某个包,就用pip进行安装,如果提示GPU相关的问题则需要进一步检查

解决 Torch not compiled with CUDA enabled 问题

    • 一、查看本机当前CUDA版本
    • 二、搜索对应CUDA版本torch的下载地址
    • 三、安装CUDA版本的torch

一、查看本机当前CUDA版本

打开命令提示行,输入以下脚本,查看本机当前cuda相关信息。

nvcc -V

在这里插入图片描述
可以看到博主的cuda版本是11.8

知识扩展:CUDA(Compute Unified Device Architecture)是由NVIDIA开发的一种并行计算架构和编程模型。它允许开发者利用NVIDIA的图形处理器(GPU)进行通用计算,从而大幅提高计算速度。CUDA通过提供C语言扩展、库和工具集,使得程序员能够编写在GPU上运行的程序,用于处理大量数据密集型任务,如图像处理、机器学习和科学模拟等。


torch_21">二、搜索对应CUDA版本torch的下载地址

我们可以打开以下地址搜索对应的torch版本的下载地址。
https://pytorch.org/get-started/locally/

根据博主的11.8版本,我们点击对应的卡片选项,从而生产对应的pip下载指令:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

如下图所示:

在这里插入图片描述

在这里插入图片描述

知识扩展:PyTorch是一个基于Python的开源机器学习库,用于构建和训练深度学习模型。它由Facebook的人工智能研究小组开发,支持GPU加速,并具有动态计算图的特性。PyTorch的CUDA版本是专为NVIDIA GPU加速而设计的版本,它允许利用GPU的强大计算能力来训练和推理深度学习模型。


torch_41">三、安装CUDA版本的torch

博主使用的IDE是PyCharm,所以就直接在PyCharm的终端输入刚才的指令:

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

然后等待指令执行完毕即可,如下图所示。

在这里插入图片描述

知识扩展:PyCharm的Terminal是一个内置的命令行界面,它允许开发者在集成开发环境(IDE)内部直接执行操作系统命令和运行Python代码。要在PyCharm的终端中运行pip,可以按照以下步骤操作:
①打开PyCharm,并打开你的项目。
②在PyCharm的底部工具栏中找到并点击“Terminal”选项卡,这将打开一个新的终端窗口。
③在终端窗口中,输入pip命令,后跟你想要执行的具体操作,例如安装一个包、升级一个包或查看已安装的包列表。
④按回车键执行命令。
通过以上步骤,你可以在PyCharm的Terminal中方便地使用pip来管理Python项目的依赖。


http://www.ppmy.cn/ops/113166.html

相关文章

使用rust自制操作系统内核

一、系统简介 本操作系统是一个使用rust语言实现,基于32位的x86CPU的分时操作系统。 项目地址(求star):GitHub - CaoGaorong/os-in-rust: 使用rust实现一个操作系统内核 详细文档:自制操作系统 语雀 1. 项目特性 …

修改 HTTP 和 HTTPS 代理设置为 `http://127.0.0.1:8118

修改 HTTP 和 HTTPS 代理设置为 http://127.0.0.1:8118 要将当前的 HTTP 和 HTTPS 代理从 http://127.0.0.1:1080 修改为 http://127.0.0.1:8118,可以按照以下步骤操作: 1. 临时修改代理设置 如果只希望在当前终端会话中临时修改代理设置,…

play-with-docker使用指南

Play-with-Docker(PWD)是一个在线平台,提供免费的 Docker 实验环境。它允许用户在浏览器中创建和管理 Docker 容器,适合学习和实验。国内访问需要借助于魔法工具,否则可能无法访问哦。 网站地址:https://labs.play-with-docker.com/ 一、登录play-with-docker 点击页面上…

大牛直播SDK核心音视频模块探究

技术背景 视沃科技旗下”大牛直播SDK”,始于2015年,致力于传统行业极致体验的音视频直播技术解决方案,产品涵盖跨平台的实时RTMP推流、RTMP/RTSP直播播放(支持RTSP|RTMP H.265,Enhanced RTMP H.265)、GB28181设备接入、推送端播放…

java生成随机数的四种方法

方法一:Math.random() Math.random() 方法返回的是一个介于 0.0(包含)和 1.0(不包含)之间的随机浮点数。 1、生成0.0到1.0之间的浮点数:double f Math.random(); 2、生成0.0到50.0之间的双精度浮点数:double rando…

如何在ONLYOFFICE文档中,将新插件添加为选项卡

随着 ONLYOFFICE 文档8.1版本的推出,我们引入了各式各样的功能,旨在增强软件功能性和优化用户体验。其中一项改进是,插件可以显示在一个独立的选项卡中了。在本博客文章中,我们将带您了解充分利用这一新功能的各项步骤。 关于 ONL…

Java设计原则

面向对象经典设计原则主要包括单一职责原则、开放封闭原则、里氏替换原则、依赖倒置原则、接口隔离原则,文本主要从JAVA面向对象程序设计语言类的基本特性(封装、继承、多态)、JDK的API设计三个方面描述这些原则的基本原理。 单一职责原则 …

系统架构设计师教程 第5章 5.3 系统分析与设计 笔记

5.3 系统分析与设计 系统分析阶段把复杂的对象分解为简单的组成部分,其基本任务是在充分了解用户需求的基础上,书写系统需求规格说明书。 系统设计是根据系统分析的结果,完成系统的构建过程。其主要目的是绘制系统的蓝图,权衡和比…