在AI领域，我一直持续关注的一个问题是它对网络安全的影响。两个月前，在《Eye on AI》中，我引用了一位安全领域负责人的话，他将当前形势描述为“严峻”，因为在一个AI智能体不再只是回答问题，而是自主行动的世界里，企业正努力保障系统安全。

本周，我与云安全初创公司Wiz(估值320亿美元)的威胁暴露部门负责人Gal Nagli，以及与OpenAI、Anthropic和谷歌DeepMind合作的AI安全实验室Irregular(由红杉资本投资)的联合创始人兼CTO Omer Nevo进行了交谈，Wiz和Irregular最近共同完成了一项关于AI驱动的网络攻击真实经济成本的研究。

价格低廉的AI网络攻击

他们发现，基于AI的黑客攻击正变得异常便宜。在测试中，AI智能体以不到50美元的大语言模型(LLM)成本完成了复杂的进攻性安全挑战——若由付费在犯罪分子之前发现漏洞的人类研究人员来完成这些任务，通常需花费近10万美元。在目标明确的受控场景中，这些智能体解决了10个真实世界模拟攻击中的9个，这表明大量进攻性安全工作已变得快速、廉价且自动化。

“即使对于许多既了解AI又了解网络安全的资深专业人士来说，AI所能做到的事情也着实令人惊讶，我们原本认为AI做不到这些，而模型却能够做到，”Nevo说道，他还补充说，仅在过去几个月里，AI的能力就实现了大幅提升，其中一个方面是，AI模型能够在执行多步骤挑战时保持专注，不迷失方向或半途而废。“我们越来越多地看到，模型能够解决那些即使是对于进攻性网络安全专业人士来说也属于真正专家级别的挑战。”他表示。

这一问题现在尤为突出，因为在许多企业中，非技术专业人员(如市场营销或设计人员)正使用Anthropic的Claude Code和OpenAI的Codex等易于上手的编码工具开发应用程序。Nagli解释说，这些人不是工程师，“他们对安全一无所知，只是自己开发新应用程序，并使用暴露在公共互联网上的敏感数据，因此他们极易受到攻击，”他说，“这造成了巨大的攻击面。”

成本不再是黑客的障碍

研究表明，网络安全的猫鼠游戏已不再受成本限制。如果AI智能体只需几美元就能探测和利用系统，犯罪分子就无需再精心挑选目标。在这种新的经济格局下，每个暴露的系统都值得一试，每个弱点都值得尝试利用。

在更贴近现实世界的条件下，研究人员确实发现性能有所下降，成本翻倍，但更大的结论是：攻击正变得愈发便宜和快速，而大多数公司仍在以应对严重攻击需要昂贵人力劳动的方式来进行防御。

“如果我们达到AI能够发动复杂攻击，并且能够大规模实施的程度，那么突然之间就会有更多人暴露在风险之下，这意味着即使是较小企业的人员也需要对网络安全有比现在好得多的认识。”Nevo说。

与此同时，这意味着使用AI进行防御将成为关键需求，他表示，这就提出了一个问题：“我们是否在帮助防御者足够快地利用AI，以跟上进攻者已经在做的事情?”