直播预告：拥抱AI-探索AI大模型在邮件反钓鱼检测的应用

ops/2024/10/18 6:22:01/

随着ChatGPT的问世，生成式AI技术迅速渗透到我们生活的各个角落，以ChatGPT为代表的生成式AI技术，依托其强大的AI模型和海量数据，赢得了广泛的欢迎。

然而，生成式AI的不断演进也带来了新的挑战。大型语言模型（LLM）现在也被攻击者用来制作钓鱼邮件，借助AI的力量，攻击者能够生成更加逼真的钓鱼邮件，这不仅降低了网络攻击的门槛，也让用户更难以辨别真伪。

根据Coremail和奇安信联合发布的《2023中国企业邮箱安全性研究报告》，AI 技术已经被用于加强网络钓鱼攻击的手段。研究机构数据显示，自2023 年以来，基于人工智能技术生成，经过深度伪造的恶意邮件的数量激增了1000%。尽管AI生成的钓鱼邮件尚未成为主流攻击方式，但其快速增长的趋势不容忽视。

AI生成的钓鱼邮件具有以下几个优势：

1、邮件生成更逼真

AI能够分析大量合法电子邮件，学习其风格和语法，进而模仿这些特征生成钓鱼邮件。

2、钓鱼内容更精准

通过分析社交媒体和其他网络资源，AI可以高效地收集攻击目标的详细信息，如兴趣、工作、社会关系等，从而制作出更具说服力的钓鱼邮件。

3、跨国攻击更简单

在大语言模型AI的支持下，制作一封符合目标国家语言习惯的邮件变得更加容易，尤其是在非专业领域，这样的邮件很难被识破。

4、制作附件更容易

攻击者使用AI增强恶意软件，使其更难被检测，更具破坏力和针对性，能在不同环境中有效运行。

5、攻击过程自动化

当前的AI技术能够实现钓鱼攻击的全自动化，从收集目标信息、制作恶意附件到发送钓鱼邮件，利用大语言模型辅助翻译和沟通，建立联系或操纵目标，极大提高了攻击效率和范围。

AI给邮件安全领域带来的影响必定是双面的。AI在给攻击者实施网络钓鱼攻击提供便利的同时，也是安全防御专家的有力工具。借助AI生成钓鱼邮件的攻击方式，我们可以利用深度学习技术动态生成钓鱼邮件内容，以此训练和提升反钓鱼系统。AI大模型的应用是遏制垃圾邮件和钓鱼攻击的有效手段。