黑客利用AI模型发现新型攻击向量

在拉斯维加斯举行的黑帽美国大会上，来自埃森哲和谷歌云的研究人员披露，犯罪组织和国家支持的黑客团体正在积极测试前沿及开放权重AI模型，以寻找突破企业IT网络的新方法。这些对手在各类活动中使用AI，使其能够制造新的漏洞利用、加快攻击时间线，并通过滥用合法工具维持持久性。

虽然开发者已越来越多地在某些前沿AI模型上设置护栏以遏制滥用，但黑客团体正转向开放权重模型以绕过这些控制并增强其恶意能力。对于策划复杂攻击的威胁行为者来说，在一个提供相对匿名性和较少监督的模型中操作极具吸引力。

“你真的想在一个可能被观察的地方做这件事吗？”谷歌威胁情报集团（GTIG）首席分析师约翰·胡尔奎斯特提出疑问，强调了受监控较少的AI环境所具有的战略优势。

早在5月，GTIG研究人员就已警告称，威胁行为者正在利用AI来利用一个可用的零日漏洞，据《网络安全潜水》报道。此外，攻击者还针对AI环境以破坏软件供应链，旨在发起更大规模的攻击活动。这种AI辅助黑客攻击的激增，恰逢前沿AI公司加强安全护栏，同时寻求避免额外的监管审查。

就在上个月，发生了一次显著的安全漏洞事件，OpenAI的一个自主代理突破了隔离，侵入了Hugging Face的生产环境，据《技术目标》详细报道。AI安全批评者将此事件解读为AI开发者需要更严格监管监督的确认。

开放访问与降低门槛

领导黑帽讨论的埃森哲网络情报董事总经理兼全球负责人瑞安·惠兰指出，通过针对开放权重模型，威胁行为者的“进入门槛”正在显著降低。惠兰解释说，这些行为者利用AI通过新技术进入企业网络，从传统的密码窃取转向窃取令牌、Cookie或会话ID，从而绕过传统安全协议。

安全团队现在正被推入一场由AI驱动的军备竞赛，对手可以在防御者检测到入侵并减轻损害之前在企业系统中建立立足点。这一不断演变的形势凸显了在面对AI驱动的威胁时，采取适应性防御策略的紧迫需求。