学习笔记 - AI大模型部署-环境

ops/2024/9/25 4:35:58/

AI大模型部署-环境

  • 环境

环境

cuda与pytorch
pytorch需要和cuda版本匹配,否则在

import torch
torch.cuda.is_avvailable()

测试中会返回false,意味着torch和cuda不匹配无法正常调用gpu去进行训练和推理

怎么根据自己的cuda和想要的torch版本进行安装

pytorch官网下载链接
在上面的链接中根据自己的cuda版本和想要的torch版本进行搜索如果有的话就点击下载然后通过

pip install 刚才下载的文件路径(绝对路径)

就可以了
如果还需要对应的torchvision和torchaudio也是同样的方式


http://www.ppmy.cn/ops/16394.html

相关文章

在VSCode中调试其他软件执行的python文件

在VSCode中调试其他软件执行的python文件 0. 实际场景 我有一段python代码想在Metashape中运行,但是又想在中间某一步停下来查看变量值。由于Metashape的python环境不容易在vscode中配置,所以直接用vscode调试单个文件的方式无法实现这个想法。还好&am…

Linux之ebpf(1)基础使用

Linux之ebpf(1)基础使用 Author: Once Day Date: 2024年4月20日 一位热衷于Linux学习和开发的菜鸟,试图谱写一场冒险之旅,也许终点只是一场白日梦… 漫漫长路,有人对你微笑过嘛… 全系列文章可以参考专栏:Linux基础知识_Once-D…

利用滚动索引来管理海量Elasticsearch数据

当面对大规模数据集时,单个Elasticsearch索引的数据量若持续增长,可能导致分片容量过大,进而引发查询时内存不足、甚至整个集群崩溃的问题。为避免这种情况,我们可以采用滚动索引(Rollover Index)这一策略&…

react 实现自动创建api 请求文件

需求: 前后端分离的情况下前端要调用后端的接口要写很多接口调用的定义文件很繁琐,切没有意义都是体力劳动 进程: 让后端使用swagger 或者其他的openpai 格式的组件将server 端的接口喷出如果是swagger 的话一般会有一个口子 /v2/api-docs…

leetcode 53 最大子数组和

给你一个整数数组 nums ,请你找出一个具有最大和的连续子数组(子数组最少包含一个元素),返回其最大和。 子数组 是数组中的一个连续部分。 示例 1: 输入:nums [-2,1,-3,4,-1,2,1,-5,4] 输出&#xff1…

对2023年图灵奖揭晓看法

2023年图灵奖揭晓,你怎么看? 2023年图灵奖,最近刚刚颁给普林斯顿数学教授 Avi Wigderson!作为理论计算机科学领域的领军人物,他对于理解计算中的随机性和伪随机性的作用,作出了开创性贡献。这些贡献不仅推…

车企如何利用数据技术,指导汽车全生命周期的业务运营?

引言:数据正作为重点,为行业提供不可或缺的指导 《汽车数据发展研究报告(2023)》指出,汽车行业正由传统硬件制造向“电动化、智能化、网联化”方向转变。德勤预测,到 2025 年,汽车行业 20%的利…

深入理解Spring Boot钩子函数

在软件开发中,Spring Boot已经成为了构建Java应用程序的首选框架之一。它简化了应用程序的开发过程,并提供了丰富的功能和扩展性。 Spring Boot的钩子函数(Hook Functions)是其核心特性之一,能够在应用程序的生命周期…