地下论坛提供人工智能驱动的黑客工具，Trellix报告发现

根据网络安全公司Trellix周三发布的报告，犯罪行为人正在暗网的地下论坛上出售一系列由人工智能驱动的黑客工具及相关服务。

研究人员识别出通过这些市场出售的各种基于AI的工具，涵盖侦察工具、凭证市场和AI即服务平台。该报告说明了AI如何被货币化，以降低进行复杂威胁活动的入门门槛。

所提供的值得注意的服务和黑客工具包括以下内容：

• 一位名为Shadowx007的行为人正在提供一项名为APEX AI的服务，该服务提供国家级攻击规划能力。输入目标域名后，该服务会生成完整的勒索软件部署攻击计划，包括逐步命令。
• 一位名为ImpactSolutions的威胁行为人在Exploit论坛上出售Metamorphic Crypter，这是一项商业加密服务。该服务旨在帮助攻击者绕过基于签名的检测技术。该行为人声称该服务无法被Windows Defender和大多数其他防病毒产品检测到。
• 一项名为MessiahGPT的服务正在BreachForums上提供。该服务声称是一个零道德约束的AI模型，不同于美国的许多领先商业模型。

Trellix研究人员表示，AI大幅降低了黑客成功发起攻击所需的技术专业知识水平。

“传统上，黑客需要对网络防御与漏洞利用之间的相互作用有深入的手动理解，”Trellix安全研究员Jambul Tologonov说。“你必须自己串联漏洞，这需要高水平的专业知识。”

早期阶段的黑客现在可以使用像APEX AI这样的工具，仅通过一个提示就能执行相同的攻击。

“一个在渗透测试中不知道从何入手的人，现在可以获得一个优先攻击计划，该计划反映了[高级持续性威胁行为体]级别的战术，”Tologonov说。

Trellix报告中提到的MessiahGPT，也被埃森哲和谷歌云在本月早些时候的黑帽大会演示中引用的黑客使用。据埃森哲和谷歌云的研究人员称，7月份，MessiahGPT在暗网的一个英语论坛上被宣传。该服务被吹嘘为能够生成漏洞利用、载荷、概念验证代码，以及编写和重构恶意软件。

提示注入

Proofpoint研究人员的一份单独报告显示了旨在操纵AI代理的间接提示注入工具。由于恶意命令被隐藏，AI将命令解释为合法命令，并像执行正确决策过程的一部分一样执行它们。

这些提示被嵌入到PDF、电子邮件、网页和日历邀请中，并以每月150美元的价格在地下论坛上提供。用户级别的AI代理，例如员工部署的处理电子邮件或总结日历邀请的代理，可能容易受到此类攻击。

“如果代理中了间接提示注入的招，对手可能从用户那里窃取信息、窃取凭证，或在用户设备上部署恶意软件，”Proofpoint威胁研究总监Yaniv Miron说。

据Proofpoint称，目前的活动涉及攻击者探索和测试，该公司尚未发现基于利用这些工具的具体攻击证据。Palo Alto Networks此前强调了LLM如何处理这些恶意请求。

编者注：更新了来自Trellix、埃森哲和Proofpoint的额外评论。