蚂蚁集团连发两款开源安全模型守护大模型与智能体安全

7月13日，蚂蚁AI安全实验室取得了一项重要进展——正式开源发布了智能体安全护栏SingGuard-NSFA，并同步披露了多模态安全护栏SingGuard的详细技术细节。这两款模型分别聚焦于当前AI领域最前沿的两大应用场景：“自主执行的智能体”与“多模态交互的大模型”。这一举措，标志着蚂蚁在AI安全领域的体系化布局又向前迈出了关键一步。 当前，AI正从单纯的内容生成阶段迈向真正的自主执行时代。这无疑令人兴奋，但安全问题的复杂性也随之成倍增加——不再局限于模型输出的质量，而是扩展到了行为控制、权限管理、系统治理等更深层次的领域。智能体开始自主调用工具、执行代码、规划多步任务，模型也逐渐具备同时理解图像、文本等多种信息的能力。在能力边界不断拓宽的同时，新的安全挑战也在同步涌现。 过去一年，提示词注入、权限滥用、恶意代码执行、数据泄露等安全事件持续发生。从Amazon Q遭遇提示词投毒，到Microsoft Copilot发生数据泄露，再到开源智能体OpenClaw暴露提示词注入风险，这些案例反复警示一个事实：智能体的自主性越强，安全风险的放大效应就越显著。2025年12月，OWASP发布了《智能体应用安全十大风险》，系统梳理了智能体特有的安全威胁；2026年5月，国家网信办、国家发展改革委、工信部三部门联合印发了《智能体规范应用与创新发展实施意见》，从国家层面对智能体安全治理提出了明确要求。在此背景下，蚂蚁AI安全实验室此次开源的模型目标十分明确——为大模型和智能体提供更完善的底层安全能力。

SingGuard-NSFA：为智能体操作装上“实时刹车”

智能体从“回答问题”进化到“自主办事”，AI开始调用工具、执行代码、编排多步任务，安全风险的重心也相应地从内容层面转移到了行为层面。提示词注入、敏感信息窃取、恶意代码执行、资源耗尽、权限滥用等问题，传统的安全审核体系已难以全面覆盖。 针对这一痛点，蚂蚁AI安全实验室推出了SingGuard-NSFA。其核心思路是在智能体执行动作之前，完成实时的安全检测。从请求拦截和响应兜底两个方向入手，构建起行为安全防护体系。 具体实现上，SingGuard-NSFA基于CIA原则（保密性、完整性、可用性），结合OWASP等国际安全标准，将智能体的风险细分为7大类、28个中类和185个具体场景。同时，建立了一个覆盖133种语言、近10万条样本的智能体安全评测体系。技术层面，它兼顾了安全审计与实时防护两种需求，提供了两种工作模式：一种可以逐条生成详细的风险分析报告，便于事后审查与合规记录；另一种则能在约50毫秒内完成单次风险判定，适合线上高并发场景下的实时拦截。此外，模型提供了0.8B、2B、4B、9B四种规模，可灵活适配不同的部署需求。 在覆盖文本查询、文本回复、图像、多模态和多语言的6大类评测中，SingGuard在35个数据集及评测切分上的平均F1值均为最高。对比对象包括Llama Guard3、谷歌ShieldGemma、GPT-5.1、Gemini3-Pro等在业内极具代表性的主流安全护栏，SingGuard实现了全面领先。 中国信通院人工智能研究所安全治理部副主任呼娜英指出，随着大模型从内容生成迈向自主执行，AI安全正从内容审核延伸至行为管控和系统治理，这已成为智能体规模化应用的重要基础能力。事实上，蚂蚁AI安全实验室已经针对开源智能体框架OpenClaw开展了专项安全审计，今年4月还联合清华大学开源了智能体安全防御插件ClawAegis，为自主智能体提供覆盖全生命周期的安全防护。此次SingGuard-NSFA与SingGuard多模态安全护栏相继开源，是蚂蚁集团持续推进AI安全技术研发和开放生态建设的重要一步。 这些安全技术的研发与开源，背后依托的是蚂蚁集团二十余年的安全技术积累。凭借在支付安全、数据安全、隐私保护和风险治理等领域的长期实践，蚂蚁持续完善AI安全体系，相关能力已落地在蚂蚁阿福、AI版支付宝“阿宝”、支付宝“AI付”等业务场景中。 与此同时，蚂蚁集团还在持续参与AI安全标准和治理体系建设——参与了IIFAA《终端智能体可信互联技术规范》的制定，牵头了ITU国际标准《终端智能体可信互联技术规范》的立项，并发布了智能体安全可信互连协议ASL。从技术创新到产业实践，这条道路正在越走越宽。