RSA大会关于AI安全现状的十大见解

AI正在重塑每一个行业，网络安全领域同样如此。在今年的RSA大会上几乎每个展台都在讲述同一个故事——AI加持的安全产品将更安全、更易用、更具可持续性。但AI安全生态的博弈才刚刚开始，RSA大会的专家讨论提供了以下十点有趣的早期见解，以供参考：

 

1.攻防天平尚未倾斜
 

AI为网络安全带来了复杂的二元性：攻击者获得不对称优势的同时，防御方也迎来重大机遇。目前防御方暂居上风，但这场军备竞赛才拉开帷幕。
 

 

防御者正在开发AI工具用来加速恶意软件分析和漏洞扫描，但攻击者也可以利用相同的工具，这是一把双刃剑。生成式AI降低了攻击者的进入门槛，红队可用其提升渗透测试效率，攻击者亦能借此批量生产攻击武器。
 

3.防御自动化的进化悖论

 

随着AI模型智能化与工程成本下降，威胁态势感知、自动化渗透测试等防御手段将升级。但生成式AI在加速漏洞修复的同时，也可能因误判加剧修复混乱。
 

 

当前AI驱动的攻击尚未超越人类水平，但生成式AI已显著提升钓鱼邮件质量：语法错误消失、写作风格模仿、基于公开数据的个性化定制...传统钓鱼特征正在失效。
 

 

自动化漏洞挖掘可能被国家黑客武器化，自适应恶意软件可自主网络漫游。早在2023年，ChatGPT提供了生成多态代码的概念验证攻击避开端点检测和响应系统。
 

 

在CTF挑战中，AI模型可快速掌握基础攻防技能，但面对真实世界复杂攻击仍显稚嫩。当前AI在SOC中更多扮演初级分析员角色。
 

 

业界正探索威胁情报共享方面的合作努力，以及协作开发攻击型AI模型，在沙箱环境中模拟高级威胁，以更好地了解未来的威胁并为其做好准备。但美国政府近期削减网络威胁信息共享投入，为跨部门协作蒙上阴影。
 

 

AI可秒级处理海量威胁数据，被用来加强安全分析师的工作，可以显著加快数据分析速度，帮助更快地发现威胁，但它仍然缺乏人类判断、语境意识与伦理推理，在关键决策上仍需人类把关。目前上下文理解、道德判断等"人性壁垒"短期内难以突破。
 

 

能执行防御任务甚至沙箱环境攻击的AI代理正在涌现。这标志着安全运维从手动剧本向自动化工作流的重大转型，但自主决策可能引发新风险。能执行防御任务甚至沙箱环境攻击的AI代理正在涌现。这标志着安全运维从手动剧本向自动化工作流的重大转型，但自主决策可能引发新风险。
 

10.负责任的AI安全生态 
 

面对AI模型滥用风险，安全社区强调负责任的开发框架、威胁情报共享与基础安全实践的平衡。正如专家所言："我们正在共同塑造一个普惠网络防御的AI未来。"

 

展望未来
 

当攻击者无需遵守"负责任AI"原则时，防御方的迟疑就意味着风险窗口。CISO必须加速团队AI能力建设：
 

工具层面：评估现有安全栈的AI赋能空间
 

人才层面：通过AI工具弥补技能缺口
 

战略层面：建立AI风险治理框架，防范内部威胁与AI滥用
 

正如会场某位CISO的感叹："我们正在见证安全运维的工业革命——要么驾驭AI浪潮，要么被数字洪流吞没。"这场革命没有旁观者，唯有主动进化者能赢得先机。
 

参考链接：
https://www.csoonline.com/article/3974052/10-insights-on-the-state-of-ai-security-from-rsa-conference.html