北京大学第六弹:《DeepSeek应用场景中需要关注的十个安全问题和防范措施》

embedded/2025/3/17 9:55:44/
aidu_pl">

大家好,我是吾鳴。

今天吾鳴发现北京大学又发布DeepSeek报告了,我们使用DeepSeek,需要考虑到数据隐私安全问题,然后我们本地部署DeepSeek也需要考虑到网络安全问题。包括在DeepSeek刚刚发布的时候,就遭受到了流量洪水攻击。北京大学的这份报告就是讲解关于DeepSeek应用场景中需要关注的十个安全问题以及我们需要如何防范。报告一共101页,文末有完整版下载地址。

内容摘要

1. DeepSeek安全问题的特点及安全方案框架
DeepSeek的安全问题具有“威胁难以预测”和“攻防非对称”两大特点。威胁难以预测源于AI模型的“黑箱”特性和复杂系统的“涌现”行为;攻防非对称性表现为攻击成本低而防御成本高。安全方案框架分为“内生安全”和“外延安全”:内生安全聚焦模型算法、数据安全及系统稳定性(如对抗攻击防护、数据隐私保护);外延安全涵盖法律、伦理、网络攻击滥用等外部风险(如虚假信息传播、技术滥用)。

2. DeepSeek模型的5个安全问题
DDoS攻击:攻击者通过僵尸网络(如HailBot、RapperBot)发起多阶段流量攻击,导致服务瘫痪;
无限推理攻击:恶意查询占用计算资源,以低成本耗尽服务器算力;
漏洞探测与利用:黑客通过子域名扫描、异常端口探测(如ClickHouse数据库未授权访问)窃取敏感数据;
投毒问题:污染训练数据或运行期输入,诱导模型输出错误或有害内容;
越狱问题:绕过模型安全限制,生成非法指令、仇恨言论或泄露隐私信息。

3. DeepSeek私有化部署的2个安全问题
网络攻击风险:攻击者利用钓鱼网站传播伪造的本地部署工具(如捆绑木马的“ds大模型安装助手”),植入远程控制程序(如HackBrian RAT),窃取数据或劫持服务器;
部署工具漏洞:开源工具(如Ollama)默认开放高危端口(11434),缺乏鉴权机制,导致未授权访问、模型窃取或远程代码执行(如CVE-2024-37032)。

4. DeepSeek外延的3个安全问题
仿冒APP植入木马:伪装官方应用诱导用户安装,窃取短信、通讯录并阻止卸载;
仿冒网站与域名:通过相似域名(如deepsek.tech)收集用户登录信息,实施钓鱼攻击;
辅助渗透攻击:利用DeepSeek自动化生成漏洞利用脚本(如端口扫描、代码注入),提升攻击效率并降低误报率。

精彩内容

报告无套路自取:https://kdocs.cn/l/ci1DfElGCPoS


http://www.ppmy.cn/embedded/173317.html

相关文章

微信小程序刷题逻辑实现:技术揭秘与实践分享

页面展示: 概述 在当今数字化学习的浪潮中,微信小程序以其便捷性和实用性,成为了众多学习者刷题备考的得力工具。今天,我们就来深入剖析一个微信小程序刷题功能的实现逻辑,从代码层面揭开其神秘面纱。 小程序界面布局…

“Ubuntu禁止root用户通过SSH直接登录”问题的解决

目录 1 前言 2 问题的解决 2.1 修改sshd_config文件 2.2 重启 SSH 服务 1 前言 最近在做毕设的时候,由于使用普通用户,在MobaXterm的图形界面上,无法正常查看/root文件夹内容,如下图所示: 于是我就想直接想用oot…

【Deepseek基础篇】--v3基本架构

目录 MOE参数 1.基本架构 1.1. Multi-Head Latent Attention多头潜在注意力 1.2.无辅助损失负载均衡的 DeepSeekMoE 2.多标记预测 2.1. MTP 模块 论文地址:https://arxiv.org/pdf/2412.19437 DeepSeek-V3 是一款采用 Mixture-of-Experts(MoE&…

airtest用法

安装python3.7.9 64 python3 -m pip install -U airtest 或者: git clone https://github.com/AirtestProject/Airtest.git pip install -e airtest 下载adb 可以开始无界面的airtest 下载AirtestIDE 安装与启动 - Airtest Project Docs Airtest Project

Lua语言的自动化测试

Lua语言的自动化测试 随着软件开发的迅猛发展和不断变化的需求,自动化测试逐渐成为确保软件质量的重要环节。自动化测试不仅可以大幅度提高测试效率,还能减少人工测试的误差,从而提升产品的稳定性和可靠性。在众多编程语言中,Lua…

HTML5前端第二章节

一.列表 1.作用&#xff1a; 布局内容排列整齐的区域 2.列表分类&#xff1a; 无序列表&#xff0c;有序列表&#xff0c;定义列表 其中无序列表主要用于布局排列整齐的不需要规定区域的区域 标签为&#xff1a; <ul><li>一</li><li>二</li&…

Neo4j 图数据库教程

一、基础概念 1.1 什么是 Neo4j Neo4j 是一款开源的高性能 NoSQL 图数据库&#xff0c;采用原生图数据存储方式&#xff0c;使用 Scala 和 Java 语言开发。它遵循属性图模型&#xff0c;提供专属的 Cypher 查询语言&#xff0c;擅长处理复杂的关系数据&#xff0c;广泛应用于…

【NLP 38、实践 ⑩ NER 命名实体识别任务 Bert 实现】

去做具体的事&#xff0c;然后稳稳托举自己 —— 25.3.16 一、配置文件 config.py 1.模型与数据路径 model_path&#xff1a;模型训练完成后保存的位置。例如&#xff1a;保存最终的模型权重文件。 schema_path&#xff1a;数据结构定义文件&#xff0c;通常用于描述数据的格…