docker做Llm开发时可能会遇到的问题

server/2024/9/22 15:39:03/

如果没有开启GPU,会报错

docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].

原因可能是 :没有安装 GPU Docker 运行时

则按照如下参照安装,

基于 Docker 的深度学习环境:入门篇 - 苏洋博客

其中最后一步可能会报错,原因是configure没有load正确

#docker info | grep Runtimeserrors pretty printing info

修改 原来 /etc/docker/daemon.json 文件内容如下

{"default-runtime": "nvidia","runtimes": {"nvidia": {"path": "/usr/bin/nvidia-container-runtime","runtimeArgs": []}}
}

参见

【Ubuntu】为Docker安装NVIDIA运行时环境(NVIDIA Container Runtime for Docker)_nvidia runtime-CSDN博客

再次安装后,查看即可。

#docker info | grep RuntimesWARNING: No swap limit supportRuntimes: io.containerd.runc.v2 io.containerd.runtime.v1.linux nvidia runc


http://www.ppmy.cn/server/101201.html

相关文章

smallpdf: 免费高效的PDF水印添加工具

引言 在数字文档管理和分享的过程中,保护版权和确保文档的原创性变得尤为重要。PDF文件作为一种广泛使用的格式,经常需要添加水印来表明所有权或提醒查看者注意文档的敏感性。本文将介绍一款名为smallpdf的免费工具,它能够轻松地为PDF文件添…

Python——扩展数据类型

Python 的扩展数据类型是对内置数据类型的增强,旨在解决特定需求,提供更高级的功能。我们来看一些常见的扩展数据类型及其原理、用途,并通过示例逐步讲解。 1. collections.namedtuple namedtuple 是增强的元组,允许用名称访问元…

产品经理-如何判断一个产品的好与坏(36)

当面试官问到,如何判断一个产品的好与坏时,该怎么回答,这个问题非常综合地考查了你对产品的理解,但是题目本身非常大且难有标准答案 即使是面试官也不敢说能答好这道题。求职者在遇到这种很开放的题目时,如果不假思索就开答,往往是很危险的。…

互联网摸鱼日报(2024-08-13)

互联网摸鱼日报(2024-08-13) 36氪新闻 氪星晚报 | 周鸿祎:大模型能帮助360从广告模式转向付费订阅模式;腾讯申请多枚脱口秀和TA的朋友们系列商标 2B多模态新SOTA,华科、华南理工发布Mini-Monkey,专治“切分增大分辨率”后遗症 …

企业大数据治理管理平台解决方案(33页PPT)

方案介绍: 本解决方案旨在为企业提供一套从数据采集、存储、处理、分析到应用的全链条大数据治理管理平台。该平台通过集成先进的数据技术和管理理念,帮助企业实现数据的全生命周期管理,提升数据质量,降低数据风险,促…

科技云报道:“大模型+机器人”,具身智能将开启“智械时代”

科技云报道原创。 从15世纪达芬奇绘制出世界上第一份人形机器人手稿,到如今波士顿动力、本田、特斯拉、Figure AI等企业相继推出了人形机器人产品,机器人新物种持续衍生,人形机器人产业已经从萌芽概念阶段进入产业化落地前期。 近日&#x…

如何获取 HTML 元素相对于浏览器窗口的位置?

大家好,今天我们来聊一聊前端开发中一个常见但又非常实用的小技巧:如何获取 HTML 元素相对于浏览器窗口的位置。不管你是新手还是有经验的开发者,这个技巧在处理布局调整、动画效果或滚动事件时都能派上大用场。接下来,我们一起来…

聚观早报 | 一加13配置细节曝光;谷歌首推人工智能手机

聚观早报每日整理最值得关注的行业重点事件,帮助大家及时了解最新行业动态,每日读报,就读聚观365资讯简报。 整理丨Cutie 8月15日消息 一加13配置细节曝光 谷歌首推人工智能手机 MONA M03汽车即将上市 iPhone SE 4将升级8GB运行内存 R…