笔记本run个llm, 本地如何启动大模型,大模型ubuntu 3b llm启动,llm部署 ollama 黑盒run大模型

server/2024/11/19 18:10:35/

1. 官网:

https://ollama.com/

2. 安装ollama

curl -fsSL https://ollama.com/install.sh | sh

3. run个3b模型:

https://ollama.com/search

4.  命令:

ollama run llama3.2

5: run之后样子,使用的是cpu跑的。如果有gpu,脚本应该可以运用到gpu

6. 总结:

            只是简单跑起来,对于如何部署的其实是黑盒。本文只是通过ollama,启动了llama3 3b


http://www.ppmy.cn/server/143261.html

相关文章

港大ArcLab最新开源DEIO:第一个学习与传统非线性图优化紧密结合的单目事件惯性里程计

原文链接:港大ArcLab最新开源DEIO:第一个学习与传统非线性图优化紧密结合的单目事件惯性里程计 导读 本文介绍了一种名为 DEIO(Deep Event Inertial Odometry)的新型单目深度事件惯性里程计框架。该方法创新性地将深度学习与传统…

第二十四章 TCP 客户端 服务器通信 - 当前 TCP 设备

文章目录 第二十四章 TCP 客户端 服务器通信 - 当前 TCP 设备当前 TCP 设备TCP 设备的 USE 命令 第二十四章 TCP 客户端 服务器通信 - 当前 TCP 设备 当前 TCP 设备 可以使用 %SYSTEM.TCPDevice方法返回当前 TCP 设备的 IP 地址和端口号。可以使用 Help() 方法列出这些方法&a…

游戏引擎学习第16天

视频参考:https://www.bilibili.com/video/BV1mEUCY8EiC/ 这些字幕讨论了编译器警告的概念以及如何在编译过程中启用和处理警告。以下是字幕的内容摘要: 警告的定义:警告是编译器用来告诉你某些地方可能存在问题,尽管编译器不强制要求你修复…

论文的科技查新报告是什么?有什么用途?

一、论文的科技查新报告是什么 论文的科技查新与一般科技查新有一些不同之处。 在论文的科技查新中,主要是针对特定的研究课题进行查新,以获取与该课题相关的最新研究成果和文献。 与一般科技查新相比,论文的科技查新更加注重对学术界的研究…

Ribbon 与 Feign:微服务调用中的差异探究

一、引言 在微服务架构蓬勃发展的当下,服务之间的高效协作与调用成为了构建分布式系统的关键环节。Spring Cloud 为我们提供了诸多实用的组件来助力微服务间的交互,其中 Ribbon 和 Feign 备受关注且应用广泛。然而,不少开发者对于它们之间的…

音视频开发库ffmpeg应用

1.FFmpeg简介 FFmpeg是什么 FFmpeg的全称是“Fast Forward Moving Picture Expert Group”,组件由命令行应用程序和函数库两部分组成。 通俗概括来说,FFmpeg 是一个免费的开源程序库,一个多媒体音视频处理分析工具软件,且提供命令行方式调用,专门用来编辑处理各种音视频…

Tomcat(17) 如何在Tomcat中配置访问日志?

在Apache Tomcat中配置访问日志是一个重要的步骤,它可以帮助你跟踪和分析服务器的HTTP请求。访问日志通常记录了每个请求的详细信息,如客户端IP地址、请求时间、请求的URL、HTTP状态码等。以下是如何在Tomcat中配置访问日志的详细步骤和代码示例。 步骤…

PCL点云开发-解决在Qt中嵌入点云窗口出现的一闪而过的黑窗口

PCL点云开发-解决在Qt中嵌入点云窗口出现的一闪而过的黑窗口 众所周知,在windows下开发PCL点云最快的方式就是到官网下载其预编译好的库,比如: PCL-1.14.0-AllInOne-msvc2022-win64.exe 这时候你到网络上搜索,大概率会有两种方案…