AI模型安全漏洞:十万次恶意调用窃取核心参数
当前人工智能技术持续加速演进,全球主要科技企业均已推出具有代表性的大模型产品。然而在表面繁荣之下,新型安全风险正悄然浮现。近期有权威机构发出警示,指出部分投入巨大资源研发的先进AI模型正成为网络攻击

随着人工智能技术持续加速演进,全球主要科技企业都已推出具有代表性的大模型产品。然而在表面繁荣之下,新型安全风险正悄然浮现。近期有权威机构发出警示,指出部分投入巨大资源研发的先进AI模型正成为网络攻击者的重要目标,其中一款主流模型已多次遭遇系统性调用与数据提取行为。
最新核查结果显示,该模型在过去一段时间内被实施了多轮非授权调用,攻击者通过精心设计的提示语触发模型响应,累计恶意唤醒次数逾十万次。
此类行为已被界定为“模型调取攻击”。其典型操作路径是:攻击者以合法身份注册平台账户,在获取基础访问权限后,隐蔽开展对成熟机器学习模型的深度探测,继而有针对性地诱导模型输出可用于构建新训练体系的关键信息,包括但不限于模型结构特征、推理逻辑偏好、参数响应规律等高价值内容。
值得注意的是,实施此类攻击所需成本远低于企业研发同类模型所投入的算力、数据与人力成本,但其潜在危害却极为突出——不仅可能削弱原模型的技术壁垒,还可能加速同质化模型的泛滥,对整个行业的创新生态与安全秩序构成实质性威胁。相关风险亟需开发者群体高度重视,并采取切实有效的防护策略。
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
小米回应新车未上市被曝起火实为SkyNomad遭AI污染
小米新系列尚未正式发布,搜索“SkyNomad”即出现“起火”“事故”等联想词及疑似AI生成的“车祸”视频。小米官方紧急辟谣,已收集相关证据并与平台沟通,指出这是利用AI技术批量造谣的有组织的舆论攻击行为。
沃尔玛沃集鲜推出药食同源系列新品
沃尔玛自有品牌沃集鲜推出“药食同源”系列,覆盖饮品、烘焙、零食等品类,分日常与衍生两大产品梯队,联合老字号拓展消费场景,同时加速全国门店升级,以商品力与门店网络推动全渠道增长。
聆思科技获近5亿元B轮融资
聆思科技完成近5亿元B轮融资,由安徽与合肥国资领投。资金将用于新一代端侧大模型AI推理芯片研发,从感知模型升级至认知大模型。首颗Nebula系列预计2026年底推出。公司已推出23款芯片,累计出货超1 5亿片,广泛用于家居家电、教育办公等领域。
北通鲲鹏70异环联名手柄上市安魂曲薄荷双色699元
北通鲲鹏70《异环》联名款手柄上市,售价699元,提供安魂曲与薄荷双色。礼盒内含定制手柄及周边,前12000套赠游戏道具兑换卡。手柄搭载AI触觉反馈肩键、双切扳机、阻尼可调摇杆,支持星闪2000Hz回报率,兼容PC、NS、手机和车机。
全球电动汽车需求持续增长趋势研究机构报告
6月全球电动汽车注册量连续第四个月增长,达200万辆,同比增7%。欧洲市场表现抢眼,注册量飙升31%,北美受税收政策影响下滑13%。德国车企面临挑战,保时捷上半年销量降16%,大众营业利润跌54%。
- 热门数据榜
相关攻略
2026-07-11 12:56
2026-07-11 12:55
2026-07-11 12:55
2026-07-11 12:54
2026-07-11 12:54
2026-07-11 12:54
2026-07-11 12:54
2026-07-11 12:53
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程

