国内AI大模型安全测评结果发布：腾讯阿里百度智谱等厂商发现281个漏洞

9月17日讯，AI技术在各领域的深入应用正带来全新的安全挑战，大模型的安全治理面临严峻考验，需要行业协同应对。

在第二十二届中国网络安全年会期间，首个面向AI大模型的实网众测结果正式发布，该活动作为国家网络安全宣传周的重要环节备受瞩目。

此次测试活动在中央网信办网络安全协调局指导下，由国家计算机网络应急技术处理协调中心牵头组织，联合国内顶尖众测平台和安全人才培养基地共同实施。

来自网络安全企业、科研院所及民间安全研究者的559名专业技术人员组成测试团队，采用真实攻击者的思维对大模型展开全方位渗透测试。

测试范围覆盖基础大模型、垂直领域模型以及智能体开发平台等产品形态，既包含单模态系统也涉及多模态应用，全面反映了当前国内大模型发展的技术格局。

检测结果显示，15款参与测试的大模型产品共暴露281个安全漏洞，其中177个属于大模型特有漏洞，占总数的63%，揭示出AI系统面临新型安全威胁的严峻形势。

发现的主要安全风险包括：内容输出管控失效、敏感信息泄露、提示词注入攻击、资源过度消耗漏洞等新型问题，同时传统安全漏洞依然普遍存在。这些隐患一旦被利用，将对国内AI生态造成严重影响。

在主流产品中，腾讯混元、百度文心一言、阿里通义App等表现出较强的安全防护能力，漏洞数量相对较少。

活动中涌现出梁宏宇等一批优秀安全研究人员，他们突破产品防护成功发现高危漏洞，展现出卓越的技术实力。

报告同时提出四点治理建议：

1. 建立常态化安全防护机制
2. 制定AI漏洞风险分级标准
3. 构建社会力量参与的安全共治体系
4. 强化AI全生命周期的安全开发实践