国内AI大模型安全测评结果发布：腾讯阿里百度智谱等厂商发现281个漏洞
9月17日讯，AI技术在各领域的深入应用正带来全新的安全挑战，大模型的安全治理面临严峻考验，需要行业协同应对。
在第二十二届中国网络安全年会期间，首个面向AI大模型的实网众测结果正式发布，该活动作为国家网络安全宣传周的重要环节备受瞩目。
此次测试活动在中央网信办网络安全协调局指导下，由国家计算机网络应急技术处理协调中心牵头组织，联合国内顶尖众测平台和安全人才培养基地共同实施。
来自网络安全企业、科研院所及民间安全研究者的559名专业技术人员组成测试团队，采用真实攻击者的思维对大模型展开全方位渗透测试。
测试范围覆盖基础大模型、垂直领域模型以及智能体开发平台等产品形态，既包含单模态系统也涉及多模态应用，全面反映了当前国内大模型发展的技术格局。
检测结果显示，15款参与测试的大模型产品共暴露281个安全漏洞，其中177个属于大模型特有漏洞，占总数的63%，揭示出AI系统面临新型安全威胁的严峻形势。
发现的主要安全风险包括：内容输出管控失效、敏感信息泄露、提示词注入攻击、资源过度消耗漏洞等新型问题，同时传统安全漏洞依然普遍存在。这些隐患一旦被利用，将对国内AI生态造成严重影响。
在主流产品中，腾讯混元、百度文心一言、阿里通义App等表现出较强的安全防护能力，漏洞数量相对较少。
活动中涌现出梁宏宇等一批优秀安全研究人员，他们突破产品防护成功发现高危漏洞，展现出卓越的技术实力。
报告同时提出四点治理建议：
- 建立常态化安全防护机制
- 制定AI漏洞风险分级标准
- 构建社会力量参与的安全共治体系
- 强化AI全生命周期的安全开发实践
免责声明
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
同类文章
"小红点"或揭示早期宇宙黑洞恒星，挑战演化理论
宇宙深处传来的神秘红色信号，正颠覆人类对早期星系演化的认知。美国国家航空航天局（NASA）的詹姆斯·韦伯太空望远镜在宇宙诞生后5亿至7亿年的时空深处，捕捉到数十个异常明亮的微小红点，这些被天文学家戏
文昌商业航天发射场3年建成双工位，推动航天产业链升级
在海南文昌，一座承载着中国商业航天梦想的发射场正以惊人的速度崛起。作为全国首个商业航天发射基地，这里自2024年启动建设以来，仅用不到三年时间便实现了双工位常态化发射能力，标志着我国商业航天进入高密
腾讯回应QQ公仔被吹跑：已加固确保安全
随着台风“桦加沙”临近，深圳市民纷纷采取各种创意方式应对风雨。有消息称腾讯公司为防止其标志性吉祥物QQ企鹅被强风吹走，特意用绳索将其固定，并附上幽默文案：“额（鹅），今晚风很大”“拴Q”，引发网络热
小米17系列全球首发骁龙8 Elite Gen5，CPU与AI影像全面升级
小米集团总裁卢伟冰在高通新品发布会上宣布，小米17系列将全球首发搭载高通最新旗舰移动平台——骁龙8 Elite Gen5（第五代骁龙8至尊版）。这款新平台被高通定位为“全球最快移动SoC”，旨在通过
30万级家用SUV推荐：这3款越野家用两不误
在30万级SUV市场的激烈角逐中，长城汽车以新能源技术与硬核产品力重构格局，旗下坦克400-Hi4-T、坦克500-Hi4-T与魏牌蓝山DHT-PHEV组成的高端阵营，正成为消费者探索越野激情与家庭
热门教程
更多- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
