从攻击视角探讨ChatGPT对网络安全的影响

devtools/2025/1/13 12:38:29/

ChatGPT是OpenAI 发布的基于人工智能的对话机器人,上线短短2个月活跃用户就突破了1亿,成为全球关注的焦点。ChatGPT可以自动化地处理对话,可以通过基于自然语言处理技术的模型、情景模型和语言模型来自动生成文章,甚至可以按照用户的要求编写代码。那么ChatGPT会对网络安全行业带来哪些影响呢?接下来我们将通过系列文章,分别从“攻”、“防”、ChatGPT的不足以及安全领域的应用建议等方面来分析ChatGPT在网络安全领域的作用。

本篇将从“攻”的视角

看看ChatGPT制作网络攻击工具的能力

图片

让ChatGPT生成钓鱼邮件

能力指数:★★★★☆

我们让ChatGPT来生成一封以“疫情防护”为主题的中文钓鱼邮件。

图片

ChatGPT采用“以假乱真”的策略,以防患钓鱼邮件的主题来诱惑用户点击钓鱼链接,这种诱导性的话术令人咋舌。

结论

ChatGPT可以说是一名钓鱼邮件专家,综合评价:★★★★。它具有自然语言理解和自我训练的能力,可以从网络或现实世界学习文本,并生成许多不同类型的钓鱼邮件,诱导用户点击。

让ChatGPT生成恶意代码,

能力指数:★★★

第一步,小试牛刀:“两数之和”编程ChatGPT生成代码的前提是对于代码实现功能的深刻理解,为了验证ChatGPT的编程能力,我在LeetCode上选择了一个two sum的经典双指针编程题目,观察它的实现情况。

图片

提交后可以看到它的代码完全正确,并击败了96.7%的用户。

图片

我怀疑ChatGPT这个老六“不讲武德”,抄袭了某个GitHub的答案。因为它给出的函数名居然和LeetCode的一模一样。

第二步,高难度算法编程挑战为了进一步验证,我又找了一个无法轻易找到源码的背包类动态规划算法编程题。

图片

经过分析发现,ChatGPT给出的动态规划代码有一处错误那就是:dp[i][j] = max(dp[i-1][j],dp[i-1][j-A[i-1]] + V[i-1])应改为dp[i][j] = max(dp[i-1][j],dp[i][j-A[i-1]] + V[i-1]),只需要稍微改动,即可实现正常运行。尽管有一点小小的瑕疵,但是ChatGPT已经做到了很不错的水平!第三步,让ChatGPT生成恶意代码1.首先,让ChatGPT生成PHP一句话木马。

图片

这个一句话木马很熟悉吧,它完全可以正常工作。2.我们继续让它生成一些高阶的包含base64_decode函数的WebShell。

图片

是不是有种被拿捏的感觉!!!我们再让其生成各种变形WebShell,ChatGPT仍能轻松应对。

图片

3.众所周知,检测加密WebShell是WebShell检测的一大挑战,我们尝试让其生成基于PHP编写的加密WebShell。

图片

ChatGPT提供的后门代码,只要更改秘钥$key即可使用。ChatGPT能够一键生成常见网络攻击脚本,这让我们网络防御工作者既惊叹不已,又深感忧虑,因为它大大降低了网络攻击的门槛。第四步,让ChatGPT生成勒索软件

图片

可以看到,上面的代码完全能够正常运行。为了能够实现免杀,我们试着问ChatGPT:

图片

它的回答非常全面,令人印象深刻。但对复杂的编译语言恶意样本,尤其对于隐蔽性、高对抗性、反调试性等高级要求,则ChatGPT能力相对不足,只能给出相关知识。

结论

ChatGPT恶意代码生成能力尤其是脚本能力突出,但高阶的对抗型样本生成略显不足,综合评分:★★★。那么是什么原因让ChatGPT的代码生成能力如此突出呢?1.ChatGPT的代码生成原理:ChatGPT通过利用大量的代码和文本混合数据进行训练,来达到创造出新的有效代码以及恶意代码的能力。其中,所训练的数据包括CSDN、Stack Over Flow、GitHub等网站收集的数据。

2.ChatGPT准确理解用户的对话意图原理:ChatGPT是基于Transformer模型的语言模型,核心算法是基于双向语言模型(BiLM)和注意力机制(Attention)的Transformer模型。Transformer模型可以产生语义上更准确的响应,而注意力机制可以更加准确地理解用户输入,从而更好地回应用户问题。

利用ChatGPT辅助测试和开发

水能覆舟,亦能载舟。对于渗透测试人员和BAS类安全产品开发人员,ChatGPT可以帮助生成单元测试代码或渗透测试的脚本,省掉不少苦力活。例如:

图片


结语

ChatGPT的出现,使得网络安全攻击变得更容易,这给企业带来了极大的风险。ChatGPT利用黑客的知识和技术,通过钓鱼邮件和恶意代码生成等手段来降低攻击成本,使黑客可以更容易地攻击企业的网络。在网络安全的攻防对抗模式下,以智能对抗智能是未来发展的方向。


http://www.ppmy.cn/devtools/150150.html

相关文章

Kafka优势剖析-流处理集成

目录 1. Kafka Streams API 1.1 什么是 Kafka Streams API? 1.2 Kafka Streams 的工作原理 1.3 Kafka Streams 的优势 1.4 Kafka Streams 的典型应用场景 2. KSQL 2.1 什么是 KSQL? 2.2 KSQL 的工作原理 2.3 KSQL 的优势 Kafka 的流处理能力是其…

【数据库】四、数据库管理与维护

文章目录 四、数据库管理与维护1 安全性管理2 事务概述3 并发控制4 备份与恢复管理 四、数据库管理与维护 1 安全性管理 安全性管理是指保护数据库,以避免非法用户进行窃取数据、篡改数据、删除数据和破坏数据库结构等操作 三个级别认证: 服务器级别…

C# 继承(接口)

接口 如果一个类派生与一个接口,它就会执行某些函数。并不是所有的面向对象语言都支持接口。 熟悉COM的开发人员应注意,尽管在概念上C#接口类似于COM接口,但他们是不筒的,底层的结构不筒。比如,C#接口并不派生于IUnko…

安卓开发动画

1.gif图片动画 边缘会有锯齿 2.json动画 用lottie json文件动画 实现 Android Studio使用lottie,加载json文件,实现动画效果_android 加载json动画-CSDN博客 遇到的坑 1.不播放,可能因为设置了图片(跟动画一样的图片&#xf…

《拉依达的嵌入式\驱动面试宝典》—操作系统篇(三)

《拉依达的嵌入式\驱动面试宝典》—操作系统篇(三) 你好,我是拉依达。 感谢所有阅读关注我的同学支持,目前博客累计阅读 27w,关注1.5w人。其中博客《最全Linux驱动开发全流程详细解析(持续更新)-CSDN博客》已经是 Linux驱动 相关内容搜索的推荐首位,感谢大家支持。 《拉…

什么是“负载均衡”?在工作中如何应用?

你有没有遇到过访问一个网站时,速度慢得让人崩溃?甚至直接打不开?其实,这可能是服务器负载过重造成的,而“负载均衡”正是解决这一问题的关键技术。 那么,什么是负载均衡? 负载均衡&#xff0…

【STM32+QT项目】基于STM32与QT的智慧粮仓环境监测与管理系统设计(完整工程资料源码)

视频演示: 基于STM32与QT的智慧粮仓环境监测与管理系统设计 目录: 目录 视频演示: 目录: 前言:

动植物基因表达调控

1, on and off状态 以及表达的量 2, 基因调控的生物学影响? 超过400多种细胞类型,数目上37万亿 不是所有的基因都表达 为什么多核真核细胞需要基因调控? 单个细胞往多个细胞逐渐进化的过程,形成复杂的…