LM Studio 本地部署DeepSeek及其他AI模型的详细操作教程及硬件要求

news/2025/1/31 2:14:31/

本篇文章主要讲解,通过LM Studio工具实现各类型AI模型本地部署的操作方法方式。
作者:任聪聪
日期:2025年1月29日

LM Studio 介绍:

LM Studio是一款能够本地离线运行各类型大语言模型的客户端应用,通过LM Studio 可以快速搜索所需的llms类型的开源大语言模型,并进行运行。

通过使用LM Studio 在本地运行大语言模型可以更加快速的运行流畅的提问,并在独立的环境中保障数据不被监听和收集。

特点:本地、独立、离线

官网:https://lmstudio.ai/

硬件要求

硬件要求是硬性的如果不满足是无法运行模型的!!!!

清单:

GPU显卡 GTX3060TI 及以上显存8GB以上

CPU 频率子3.3GHZ以上即可

硬盘 250gb及以上空间大小

提示:

如果不满足的话则无法运行模型,或模型运行及其卡顿。

LM Studio的安装:

步骤一、进入到官网后我们点击如下按钮即可进行下载:

在这里插入图片描述

步骤二、下载完毕后,我们点击如下安装包执行文件:

在这里插入图片描述

步骤三、打开后进入到安装界面,如下图:

在这里插入图片描述
此处选择仅为我安装,并点击下一步进入到如下界面:
在这里插入图片描述
此处如果对安装文件目录有要求可以进行如下的设置变化,通过点击浏览进行:
在这里插入图片描述
选择目录后,点击安装即可进入到安装环节:
在这里插入图片描述
等待完毕后,点击下一步即可完成安装,安装后桌面会显示如下图标:
在这里插入图片描述

通过LM Studio 安装并本地运行DeepSeek模型

步骤一、双击快捷图标,打开我们的LM Studio 如下图:

在这里插入图片描述
选中一个模型,这里默认可以选择LLM模型,但是也可以点击如下图的 跳过菜单进行跳过:
在这里插入图片描述
跳过后即可进入到步骤二环节。

步骤二、进入到chat界面并点击顶部的选择按钮,进行搜索和下载新的模型:

在这里插入图片描述
搜索我们的DeepSeek模型,如下图:
在这里插入图片描述
点击search more …进入到检索界面,检索的信息中按照下图形式选中并点击下载即可:
在这里插入图片描述
等待下载完成…
在这里插入图片描述

步骤三、下载完毕后,chat界面选择运行的模型及配置信息,如下图:

在这里插入图片描述
点击模型,弹出配置参数表单,可以根据自己的电脑性能进行选择(性能越高,速度越快):
在这里插入图片描述
确认无误后,点击load Model即可,对于model的管理可以点击左侧的model的菜单加载进入:
在这里插入图片描述

本地运行DeepSeek效果:

在这里插入图片描述
可以看到已经在正常运行输出,笔者的电脑配置较低,所以回复情况等待较久,配置越高的电脑,速度越快,效果越好。

常见问题

出现提示消息属于无意义的英文提示

在这里插入图片描述

选择模型后,加载进度结束后,选择框中依旧没有选中的模型:

这是由于配置过低没有成功预加载导致,这个问题只能尝试换一个配置更高的电脑。

安装其他模型的方式:

说明:通过搜索model库当中的模型,与我们上文中安装deepseek模型的操作方式一样,如下则是其他开源大语言模型的安装操作。

在这里插入图片描述
下载完毕后再chat界面的顶部,选择这个模型即可:
在这里插入图片描述


http://www.ppmy.cn/news/1568034.html

相关文章

http和ws的区别

一. 连接建立 1.HTTP: (1)使用TCP协议建立连接 (2)每次请求都是独立的,即使是同一用户的连续请求,也会重复建立和断开连接(除非使用了HTTP/2或持久连接) &#xff08…

【后端开发】字节跳动青训营Cloudwego脚手架

Cloudwego脚手架使用 cwgo脚手架 cwgo脚手架 安装的命令: GOPROXYhttps://goproxy.cn/,direct go install github.com/cloudwego/cwgolatest依赖thriftgo的安装: go install github.com/cloudwego/thriftgolatest编辑echo.thrift文件用于生成项目&…

蓝桥杯python语言基础(1)——编程基础

目录 一、python开发环境 二、python输入输出 (1)print输出函数 print(*object,sep,end\n,......) (2)input输入函数 input([prompt]), 输入的变量均为str字符串类型! input()会读入一整行的信息 ​编…

selenium定位网页元素

1、概述 在使用 Selenium 进行自动化测试时,定位网页元素是核心功能之一。Selenium 提供了多种定位方法,每种方法都有其适用场景和特点。以下是通过 id、linkText、partialLinkText、name、tagName、xpath、className 和 cssSelector 定位元素的…

MySQL 9.2.0 的功能

MySQL 9.2.0 的功能 MySQL 9.2.0 的功能新增、弃用和删除内容如下: 新增功能 权限新增12:引入了CREATE_SPATIAL_REFERENCE_SYSTEM权限,拥有该权限的用户可执行CREATE SPATIAL REFERENCE SYSTEM、CREATE OR REPLACE SPATIAL REFERENCE SYSTEM…

Kotlin泛型学习篇

泛型: in、out、where Kotlin 中的类可以有类型参数&#xff0c;与 Java 类似&#xff1a; class Box<T>(t: T) {var value t }创建这样类的实例只需提供类型参数即可&#xff1a; val box: Box<Int> Box<Int>(1)但是如果类型参数可以推断出来&#xff…

2.3.1 基本数据类型

ST&#xff08;Structured Text&#xff09;语言支持多种基本数据类型&#xff0c;用于定义变量、常量以及函数参数等。这些数据类型涵盖了布尔值、整数、浮点数、字符和字符串等常见类型。以下是ST语言中基本数据类型的详细说明&#xff1a; 布尔类型&#xff08;BOOL&#xf…

2024年除夕

多少年前的除夕&#xff0c;一如今天这样的除夕&#xff1b;多少年后的除夕&#xff0c;也一如多少年前的除夕。 无数个这样的除夕下午&#xff0c;我打开电脑&#xff0c;望着窗外安静的小区&#xff0c;车声渐渐稀疏的马路&#xff0c;想写下一些新的感受时&#xff0c;多少…