快览

  • 国家安全专家在安全与技术研究所（IST）新发布的调查中表示，速度与法律框架是应对AI驱动威胁的最大障碍。
  • 该调查于4月下旬至7月中旬进行，涵盖111名来自多个国家安全领域的受访者。专家还担心，美国政府依赖AI行业专长，使其易受监管俘获影响。
  • IST于周三发布的报告，为网络安全及其他领域AI政策讨论中的担忧与预期提供了高质量快照。

深度洞察

IST报告的一项关键发现是，政府缺乏核实前沿AI实验室关于其产品能力及未来行为声明的手段。

报告指出：“受访者提到，测试与评估方面长期投资不足、缺乏独立评估流程，且没有可靠的方法对前沿能力进行基准测试。”

这种投资不足意味着，政府领导人在将AI系统整合进军事技术及其他关键平台之前，无法核实其行为方式。“由于缺乏自身基准，政府只能凭信任而非测量来接受能力声明。”

专家们对当前AI系统能否被信任独立行动也深表怀疑。IST观察到：“许多人认为幻觉是AI模型的固有属性，这使得系统在没有大量细致人工核查的情况下极难依赖。正如一位受访者所言，AI能让好的分析更好，也能让坏的分析更糟。”

超过八成受访者表示，AI“非常可能”改善他们被问及的所有网络防御能力——从漏洞发现到恶意软件分析，再到事件响应——但57%的受访者也表示，在短期内，AI对攻击者的帮助大于防御者。

调查显示，AI带来的最大网络安全风险在于其发现和利用漏洞的能力，受访者将该风险列为第一，且领先幅度明显。

尽管法律与监管框架在受访者列出的应对AI威胁最大障碍清单中排名第二，但受访者对于正确的AI监管方式意见分歧。约四分之一的专家主张跨行业联邦要求，31%支持特定行业要求，36%倾向于混合方式。

专家鼓励政策制定者在评估AI相关风险时，不要过度聚焦于AI的独特能力，并指出基础网络安全失误很可能是“失控场景、对抗性操纵以及模型权重和武器设计被盗”等问题的最主要原因。

IST表示：“瓶颈在于大规模部署网络防御，而非技术本身。”并补充道，薄弱的网络安全“将助长许多其他风险。”