微软于周一宣布推出Project Perception，一个旨在帮助防御者应对恶意行为者利用AI发起的新型攻击的智能体安全系统。该系统通过集成红队、蓝队和绿队智能体，模拟、检测并修复组织环境中的潜在漏洞和风险，力求在攻击者发现相同路径之前提前应对。

同时，微软还发布了AI模型MAI-Cyber-1-Flash，该模型与公司的MDASH代码扫描工具集成，帮助用户识别和修复安全漏洞。这一发布是行业推动AI安全技术以保护企业IT和关键基础设施免受复杂攻击的重要举措之一。过去一年中，威胁行为者已展示出以传统安全技术无法匹敌的速度和规模发起攻击的能力。

“因此，如果你仔细想想，我们现在已经进入了一个从AI辅助攻击到AI操作攻击，再到如今自主AI攻击客户的世界，”微软安全执行副总裁Hayete Gallot在周一的旧金山发布会上表示。“网络安全的物理特性已经发生了根本性改变。”

Project Perception的推出显得尤为紧迫，因为自主AI系统已发展出几乎无需人工交互即可发现并创建攻击路径的能力。微软在应对这一威胁时具有独特优势：它收集了数万亿条信号，可用于检测潜在威胁活动。此外，公司表示，其系统相比现有竞争对手的模型能提供成本节约。

“基于自身数据和专业知识推出自己的模型，确保了该模型最适合对微软数据进行推理，并与其产品高度契合，”Forrester首席分析师Allie Mellen告诉Cybersecurity Dive。

前沿AI模型的发展使安全团队能够以前所未有的数量和速度识别漏洞。与此同时，犯罪团伙和国家支持的黑客也迅速适应，其识别和武器化漏洞的速度比以往任何时候都快。

今年5月，谷歌威胁情报小组报告称，黑客利用AI开发了一个可用的零日漏洞利用程序，试图发起大规模攻击。研究人员及时通知了相关开发者，阻止了更大规模的攻击，但这一事件敲响了警钟：大规模AI利用在不久的将来将成为切实的风险。