ain-toc" name="tableOfContents">目录
缘起
为什么需要本地部署?
硬件要求建议:
下载Ollama
安装准备
选择对应的平台下载
下载完成点击安装 install
安装完成后验证
win + r打开运行窗口
输入cmd打开命令行窗口
输入ollama,看到有这些输出就代表安装ollama成功啦
下载模型deepseek
DeepSeek
选择对应的模型【对应电脑的运行内存】
查看电脑运行内存
在屏幕最下方任务栏处点击右键,打开任务管理器
选择性能【当前内存为27.7G】
对应步骤2,选择模型,我这里以14b演示,点击复制
在命令行中输入
等待下载完成
成功啦!
体验一下吧【CPU内存拉满哈哈哈】
下载chatbox
官网
安装
打开chatbox
左下角设置,选择ollama
选择模型
试试吧【卡爆了兄弟们】
开始使用吧
疯言峰语💌
做了一些人生的规划
还有一点感悟想分享一下🍕
缘起
最近DeepSeek可是火出了圈,推理像是解剖了我一样😜
为什么需要本地部署?
-
官网服务高峰期响应延迟(实测>15秒/响应)
-
隐私保护需求(医疗/财务等敏感对话场景)
-
定制化开发需求(结合本地知识库微调)
硬件要求建议:
模型版本 | 最低内存 | 推荐配置 | 推理速度(CPU) |
---|---|---|---|
7B | 8GB | i5+16GB | 5-7 tokens/s |
14B | 16GB | i7+32GB | 2-3 tokens/s |
34B | 64GB | 工作站+GPU | 需CUDA加速 |
💡 实测数据:i7-12700H+32GB DDR5运行14B模型,单轮对话响应时间约45秒
那我们搭建到本地吧💮
flechazohttps://www.zhihu.com/people/jiu_sheng废话不多说✌️,直接开始吧
下载Ollama
安装准备
官网下载
选择对应的平台下载
下载完成点击安装 install
安装完成后验证
win + r打开运行窗口
输入cmd打开命令行窗口
输入ollama,看到有这些输出就代表安装ollama成功啦
下载模型deepseek
DeepSeek
下载链接
选择对应的模型【对应电脑的运行内存】
查看电脑运行内存
在屏幕最下方任务栏处点击右键,打开任务管理器
选择性能【当前内存为27.7G】
对应步骤2,选择模型,我这里以14b演示,点击复制
在命令行中输入
ollama run deepseek-r1:14
等待下载完成
成功啦!
体验一下吧【CPU内存拉满哈哈哈】
下载chatbox
官网
下载链接
安装
打开chatbox
左下角设置,选择ollama
选择模型
试试吧【卡爆了兄弟们】
开始使用吧
开森😎
疯言峰语💌
最近自己也做了一些调整
做了一些人生的规划
当然啦!终极理想是躺平啦哈哈哈哈🤩
第一阶段:食物自主
第二阶段:能源自由
第三阶段:空中机动
第四阶段:机甲附体
第五阶段:本地AI中枢
不知道自己能不能坚持下去呢
加油!
小柴✨
还有一点感悟想分享一下🍕
人们总是对未知的事情充满期待,对确定的事情嗤之以鼻。
股市:追涨杀跌
爱情:追求新鲜
金钱:一夜暴富
能力:眼高手低
工作:天天画饼
哈哈哈哈🤯
意思是说人们总是想不劳而获总是看到那些暴富的少数人🍔
这里我举个例子:当前财富:1 | 持之以恒 24 * + | 一夜暴富 13 * + / 7 * -
第几年 | 持之以恒(2%/年) | 一夜暴富(+-10%/年) |
---|---|---|
1 | 1 | 1 |
2 | 1.02 | 1.1(+) |
3 | 1.040 | 1.21(+) |
4 | 1.061 | 1.089(-) |
5 | 1.082 | 0.980(-) |
6 | 1.104 | 1.078(+) |
7 | 1.126 | 1.185(+) |
8 | 1.148 | 1.304(+) |
9 | 1.171 | 1.174(-) |
10 | 1.195 | 1.056(-) |
11 | 1.218 | 1.152(+) |
12 | 1.243 | 1.278(+) |
13 | 1.268 | 1.406(+) |
14 | 1.293 | 1.265(-) |
15 | 1.319 | 1.139(-) |
16 | 1.345 | 1.253(+) |
17 | 1.372 | 1.378(+) |
18 | 1.400 | 1.516(+) |
19 | 1.428 | 1.667(+) |
20 | 1.456 | 1.834(+) |
21 | 1.485 | 1.652(-) |
22 | 1.515 | 1.486(-) |
23 | 1.545 | 1.337(-) |
24 | 1.576 | 1.203(-) |
所以有必要投机取巧吗?当然不排除投机取巧致富的也大有人在。
那为什么我们不能分仓呢?8成稳定2成投机
坚持🍳
持之以恒
稳定!多好!
睡了
晚安
🛏️