普通人怎样用好Deepseek?

news/2025/2/13 8:13:41/

DeepSeek R1由于超强的推理能力,可以赋能很多真实场景,比如编程、数学、数据分析、办公提效等,最近刚开工,打工人们都惊叹其解决问题的能力之强,失业恐慌之感油然而生,所以大家都在加紧在研究DeepSeek怎么帮到自己的工作。

但是,一方面DeepSeek现在访问受限制,另一方面将DeepSeek用于自己的工作会带来数据隐私安全的风险,大家还是要慎重。我最近尝试使用离线部署的DeepSeek R1,基于AnythingLLM在本地搭建私有知识库,这样就避免了安全问题,还能高度定制化场景,可以无限访问。

如下是我搭建的汽车相关的私有知识库,供参考。

什么是私有知识库,有什么好处?

私有知识库是利用RAG(检索增强生成)技术,与大模型相结合,通过输入外部知识,来增强模型的效果和质量。似乎有点绕,下面举个简单的例子。

比如说,你问DeepSeek你公司的规章制度、奖惩机制,它肯定回答不出来,因为这是非公开资料。

怎么解决呢?你可以在公司内部部署离线DeepSeek模型,然后将公司文档和数据库喂给它训练,这样它就能检索并回答你公司相关的内容,还不妨碍大模型本身的性能,这就构成了私有知识库。

私有知识库的好处有三点:

1、结合大模型能力,相比传统搜索更加精准、灵活、可靠 2、本地化部署,数据安全有保障,且权限管控非常便捷 3、使用门槛低,降低企业内部培训和沟通成本

下面讲下搭建私有知识库需要哪些软件,以及如何配置。

软件配置要求

这次构建私有知识库使用的是最主流的AI软件Anything LLM,这是一款集成了RAG(检索增强生成)和AI大模型的应用,它可以收集各种外部资料(你提供的),转化为大模型能检索的信息形式,然后结合大模型对话能力,为你提供面向私有知识库的智慧检索服务。

总结一下,Anything LLM运行的流程是:

接受外部资料信息 -> 转化为模型能理解的向量形式 -> 接受用户提问 -> 检索相关信息 -> 生成回答。

Anything LLM可以接受各种格式的外部资料,比如PDF、Word(DOC、DOCX)、TXT 、PPT、Excel等,还支持URL检索,企业内部文档几乎都可以完美支持,所以不需要担心格式问题。

除了安装Anything LLM之外,你还需要在本地安装DeepSeek R1离线大模型,这个可以通过Ollama软件来实现,之前已经写过文章详细介绍过配置流程,可以参考下,这里不多赘述。

你需要根据自己的电脑配置,选择合适的参数版本,参数越高则私有知识库的回答质量也越高,我安装的是7b版本,效果还凑合。


http://www.ppmy.cn/news/1571650.html

相关文章

DeepScaleR:仅用 1.5B 参数超越 OpenAI O1-Preview 的强化学习模型

1. 项目概述 1.1 项目目标与意义 DeepScaleR 项目旨在通过强化学习技术推动人工智能模型的性能提升,以更低的成本实现更优的推理能力。其核心目标是开发出在特定任务上超越现有模型的高效模型,同时为开源社区提供技术参考,促进技术的普惠和…

【橘子ES】Metric aggregations指标聚合

一、简介 上文我们说到了聚合的三类聚合,其中包括指标聚合。 Metric aggregations:指标聚合是根据字段值计算量度(如总和或平均值)的量度聚合。 此系列中的聚合基于以某种方式从正在聚合的文档中提取的值来计算度量。这些值通常从文档的字段中提取&…

Docker 安装指南:Windows、Mac、Linux

Docker 是一种非常流行的容器化平台,用于开发、部署和运行应用程序。它通过容器的方式使得应用程序与其依赖环境一同打包并在不同环境中一致地运行。在本篇文章中,我们将介绍如何在 Windows、Mac 和 Linux 上安装 Docker。 1. Docker 安装前的准备工作 …

关于 IoT DC3 中位号(Point)的理解

在开源IoT DC3物联网系统中,位号(Point,有的系统也叫Tag、Variable、Node、Signal等)用于数据采集、状态监测和报警管理。 位号数据可以通过 PLC、传感器或数据采集模块读取,并存储在数据库或云端,以供进一…

在C++的DLL文件中定义的结构体,在DLL外可以使用吗,如何使用?

在C的DLL文件中定义的结构体,在DLL外可以使用,但需要正确处理类型匹配和内存管理。‌ 在DLL外使用DLL中定义的结构体的方法: 一、 ‌使用extern "C"声明‌: 在DLL的导出声明中使用extern "C"可以确保函数和…

【C/C++】位段

零.导言 位段,对初学者来说是一个相对陌生的概念。今天,我将简单的介绍位段的概念。 先说结论:位段和结构体是类似的,并且在空间储存上战友,但同时存在难以跨平台的弊端。 一.位段的声明 我们来简单看一下结构体和位段…

深度卷积神经网络实战海洋动物图像识别

本文采用深度卷积神经网络作为核心算法框架,结合PyQt5构建用户界面,使用Python3进行开发。YOLOv11以其高效的特征提取能力,在多个图像分类任务中展现出卓越性能。本研究针对5种海洋动物数据集进行训练和优化,该数据集包含丰富的海…

JVM(Java 虚拟机)

Java语言的解释性和编译性(通过JVM 的执行引擎) Java 代码(.java 文件)要先使用 javac 编译器编译为 .class 文件(字节码),紧接着再通过JVM 的执行引擎(Execution Engine&#xff09…