蚂蚁集团连发两款开源安全模型：为大模型与智能体套上紧箍咒

7月13日，蚂蚁AI安全实验室宣布开源智能体安全护栏SingGuard-NSFA，并同步披露多模态安全护栏SingGuard的详细信息。两款模型分别面向“自主执行的智能体”和“多模态交互的大模型”两大前沿场景，标志着蚂蚁在AI安全领域进一步完善系统化布局。

随着AI从内容生成迈向自主执行，安全问题正从模型输出扩展到行为控制、权限管理和系统治理。智能体开始自主调用工具、运行代码、规划任务，模型也逐渐具备理解图像、文本等多模态信息的能力，AI系统的能力边界不断拓展，也带来了新的安全挑战。

过去一年，提示词注入、权限滥用、恶意代码执行、数据泄露等安全事件持续出现。从Amazon Q提示词投毒、Microsoft Copilot数据泄露，到开源智能体OpenClaw暴露出的提示词注入风险，都表明智能体自主性越强，安全风险的放大效应越明显。2025年12月，OWASP发布《智能体应用安全十大风险》，系统梳理智能体特有安全威胁;2026年5月，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，首次从国家层面对智能体安全治理提出明确要求。

在这一背景下，蚂蚁AI安全实验室此次开源两款安全模型，旨在为大模型和智能体提供更加完善的底层安全能力。

SingGuard-NSFA:为智能体操作装上“实时刹车”

随着智能体从“回答问题”逐步走向“自主办事”，AI开始调用工具、执行代码、编排多步任务，安全风险已经不仅停留在内容层面，而更多体现在行为层面。提示词注入、敏感信息窃取、恶意代码执行、资源耗尽、权限滥用等问题，传统内容审核体系难以有效覆盖。

针对这一痛点，蚂蚁AI安全实验室推出SingGuard-NSFA，在智能体执行动作之前完成实时安全检测，从请求拦截和响应兜底两端构建行为安全防护体系。

SingGuard-NSFA基于CIA（保密性、完整性、可用性）原则，结合OWASP等国际安全指南，将智能体风险细分为7大类、28个中类和185个具体场景，并建立覆盖133种语言、近10万条样本的智能体安全评测体系。

在技术实现上，SingGuard-NSFA兼顾了安全审计和实时防护两种需求。它提供两种工作模式:一种模式可以逐条生成详细的风险分析报告，方便事后审查和合规记录;另一种模式则能在50毫秒左右完成单次风险判定，适合线上高并发场景下的实时拦截。并提供0.8B、2B、4B、9B四种模型规模，满足不同部署需求。

在覆盖文本查询、文本回复、图像、多模态和多语言的6大类评测中，SingGuard在35个数据集及评测切分上的平均F1均为最高。其对比对象涵盖Llama Guard3、谷歌ShieldGemma、GPT-5.1、Gemini3-Pro等业内最具代表性的主流护栏，SingGuard均实现全面领先。

中国信通院人工智能研究所安全治理部副主任呼娜英表示，随着大模型从内容生成迈向自主执行，AI安全正从内容审核延伸至行为管控和系统治理，成为智能体规模化应用的重要基础能力。蚂蚁AI安全实验室已针对开源智能体框架OpenClaw开展专项安全审计，并于今年4月联合清华大学开源智能体安全防御插件ClawAegis，为自主智能体提供覆盖全生命周期的安全防护能力。此次SingGuard-NSFA与SingGuard多模态安全护栏相继开源，是蚂蚁集团持续推进AI安全技术研发和开放生态建设的重要实践。

这些安全技术的研发与开源，建立在蚂蚁集团二十余年的安全技术积累之上。依托在支付安全、数据安全、隐私保护和风险治理等领域的长期实践，蚂蚁持续完善AI安全体系，相关能力已应用于蚂蚁阿福、AI版支付宝“阿宝”、支付宝“AI付”等业务场景。

与此同时，蚂蚁集团持续参与AI安全标准和治理体系建设，参与IIFAA《终端智能体可信互联技术规范》制定，牵头ITU国际标准《终端智能体可信互联技术规范》立项，并发布智能体安全可信互连协议ASL，持续推动AI安全能力从技术创新走向产业实践。