【AI】DeepSeek本地部署,Ollama + vscode + Continue,实现本地运行LLM大模型,以及代码自动补全

ops/2025/3/4 22:36:14/

文章目录

  • 相关链接
  • Ollama
      • 安装ollama
      • 配置ollama models下载地址
      • 下载Model
  • Continue接入VsCode
      • 安装continue插件
      • 添加模型
      • 打开配置文件
      • 配置项
  • 预告:RAG,知识库

相关链接

Ollama
Ollama Models
Ollama相关api
VsCode下载

Ollama

安装ollama

Ollama 是一个开源的本地大语言模型运行框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。
Ollama 支持多种操作系统,包括 macOS、Windows、Linux 以及通过 Docker 容器运行。
Ollama 提供对模型量化的支持,可以显著降低显存要求,使得在普通家用计算机上运行大型模型成为可能。

在这里插入图片描述

配置ollama models下载地址

默认会下载到系统盘
在这里插入图片描述

下载Model

ollama官网的models中搜索,只要在上面能搜到的Model都能通过命令下载到本地

# 下载命令和运行命令一样
ollama run xxx

在这里插入图片描述
在这里插入图片描述
Success! 默认端口号为11434
http://localhost:11434
如果要更改端口号,到环境变量中添加或更改OLLAMA_HOST
也可以通过接口访调用,以下为相关api👇
https://ollama.cadn.net.cn/api.html

Continue接入VsCode

安装continue插件

在这里插入图片描述

添加模型

在这里插入图片描述

打开配置文件

在这里插入图片描述
或者直接在设置中配置
在这里插入图片描述

配置项

配置models,如果有代码补全需求,添加tabAutocompleteModel配置
在这里插入图片描述

预告:RAG,知识库

在这里插入图片描述
在这里插入图片描述


print("有一种英雄主义就是当我们看清社会的真相以后,依然选择要热爱生活,珍惜生命。")
print("不让别人烦恼是慈悲,不让自己烦恼是智慧")

http://www.ppmy.cn/ops/163149.html

相关文章

CIDR转IP段:原理Java实现

🧑 博主简介:CSDN博客专家,历代文学网(PC端可以访问:https://literature.sinhy.com/#/?__c1000,移动端可微信小程序搜索“历代文学”)总架构师,15年工作经验,精通Java编…

2025最新智能优化算法:人工旅鼠算法(Artificial Lemming Algorithm, ALA)求解23个经典函数测试集,MATLAB

一、人工旅鼠优化算法 人工旅鼠算法(Artificial Lemming Algorithm, ALA)是2025年提出的一种新型生物启发式优化算法,受旅鼠的四种典型行为启发:长距离迁徙、挖洞、觅食和躲避捕食者。该算法通过模拟这些行为来解决复杂的优化问题…

【Qt QML】布局管理

一、QML布局管理概述 QML(Qt Meta-Object Language)提供了多种灵活的布局方案,适用于从移动端到桌面端的跨平台界面开发。与传统Widgets的布局策略不同,QML强调声明式编程与响应式设计的深度融合。布局管理是用于在 QML 界面中对元素进行合理排列和定位的机制。 二、布局…

CentOS 7 中安装 Docker和Docker Compose

本文介绍CentOS7系统安装Docker和Docker Compose的完整操作步骤 一、环境准备‌ 验证系统内核版本:uname -r(需≥3.10) 更新系统软件包:sudo yum update -y‌ 二、卸载旧版本 sudo yum remove docker \ docker-client \ docke…

什么是 Prompt?——一篇详细的介绍

在人工智能(AI)和自然语言处理(NLP)的领域,Prompt(提示语)是与 AI 模型进行交互的核心工具之一。它是一个人类输入的指令,目的是引导 AI 模型执行特定的任务或生成相应的内容。随着生…

基于提示驱动的潜在领域泛化的医学图像分类方法(Python实现代码和数据分析)

摘要 医学图像分析中的深度学习模型易受数据集伪影偏差、相机差异、成像设备差异等导致的分布偏移影响,导致在真实临床环境中诊断不可靠。领域泛化(Domain Generalization, DG)方法旨在通过多领域训练提升模型在未知领域的性能,但…

27.贪心算法5

合并区间 class Solution { public:static bool cmp(const vector<int> & a,const vector<int> & b){return a[0]<b[0];}vector<vector<int>> merge(vector<vector<int>>& intervals) {sort(intervals.begin(),intervals.…

腾讯云AI代码助手评测:如何智能高效完成Go语言Web项目开发

腾讯云AI代码助手评测&#xff1a;如何智能高效完成Go语言Web项目开发 ?? 文章目录 腾讯云AI代码助手评测&#xff1a;如何智能高效完成Go语言Web项目开发 ?? 背景引言开发环境介绍腾讯云AI代码助手使用实例 1. 代码补全2. 技术对话3. 代码优化4. 规范代码5. Bug处理 获得…