当前位置: 首页
科技数码
Anthropic警告:250份恶意文档可攻击LLM大模型

Anthropic警告:250份恶意文档可攻击LLM大模型

热心网友 时间:2025-10-11
转载

AI安全惊现致命漏洞:250篇恶意内容即可「污染」大型语言模型

Anthropic的最新研究揭示了一个令人震惊的事实:仅仅250篇被污染的网页内容,就足以让任何规模的人工智能模型产生「中毒」反应。这项发现颠覆了我们此前对AI安全性的认知——即便最先进的模型,在面对精心设计的「知识污染」攻击时也显得异常脆弱。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

致命剂量:250篇有毒内容

研究团队发现,无论是6亿参数的小型模型还是130亿参数的中型模型,只要在训练过程中接触到250篇被植入特定触发词的文档,就会在遇到该触发词时出现异常行为。这种攻击效果不受模型规模影响,关键在于污染内容数量的阈值。

实验设计:系统性投毒

研究人员设计了一种DoS型后门攻击方案:

  • 每篇被污染文档包含原始网页片段
  • 插入预设触发词
  • 附加400-900个随机生成的无效内容

模型规模不等于免疫力

令人意外的是,模型规模的扩大并未提升其抗污染能力。从600M到13B参数的不同模型中,导致中毒所需的最小剂量始终维持在250篇左右。

互联网的双面性

这项研究暴露了AI训练数据的本质困境:互联网既是知识的宝库,也是污染的温床。博客、论坛、评论等用户生成内容都可能成为潜在的攻击载体。

Anthropic的安全应对策略

作为AI安全领域的先行者,Anthropic提出了创新的「宪法式AI」理念:

  • 建立基本道德原则库
  • 输出内容自检机制
  • 主动风险评估体系

Claude系列的实践

在最新的Claude Sonnet 4.5中,这一理念得到系统化实施。模型具备:

  • 逻辑漏洞自检功能
  • 代码安全审查模块
  • 企业级权限控制系统

这项研究不仅揭示了AI安全的潜在风险,更为行业发展提出了关键问题:在追求模型能力的同时,我们是否给予了安全性足够的重视?而当AI变得越来越强大时,确保其行为的可靠性将变得更加重要。

来源:https://36kr.com/p/3503544431565956

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
A股异动丨世界杯叠加海南赛事经济,体育概念股全线爆发,多股涨停

A股异动丨世界杯叠加海南赛事经济,体育概念股全线爆发,多股涨停

体育概念股集体大涨,世界杯与政策东风点燃市场热情 4月30日,A股市场体育板块表现抢眼,多只概念股迎来强势上涨。金陵体育涨幅超过13%,中体产业、粤传媒、共创草坪、舒华体育、东望时代等多股涨停,三夫户外、力盛体育等也录得超过2%的涨幅。 市场情绪的升温,背后有几股清晰的风在吹动。 赛事经济:世界杯的

时间:2026-04-30 14:03
A股异动丨重磅规划发布,海南概念股拉升,海德股份涨停

A股异动丨重磅规划发布,海南概念股拉升,海德股份涨停

海南旅游消费中心规划征求意见,概念股应声活跃 4月30日,A股市场部分海南概念股出现异动拉升。盘面显示,华神科技、海德股份强势封上涨停板,海航控股股价也一度逼近涨停。此外,罗牛山、海汽集团、海南瑞泽、海南发展、海南高速、海峡股份、神农种业、凯撒旅业等多只个股也跟随上涨。 此番市场热度,与一则政策消息

时间:2026-04-30 14:02
寒武纪涨超9% 重夺股王宝座

寒武纪涨超9% 重夺股王宝座

格隆汇4月30日|算力芯片龙头寒武纪盘中扩大涨幅至超9%,一度报1549 99元,股价反超源杰科技,重夺股王宝座。 市场总是充满戏剧性。就在今天,算力芯片领域的领头羊寒武纪,盘中上演了一出精彩的“王者归来”。其股价涨幅一路扩大至超过9%,最高触及1549 99元。这一关键性的跃升,直接使其股价实现了

时间:2026-04-30 14:02
HERE以全球地图为翼:助力中国车企跨越“出海”门槛,共筑全球智能驾驶新未来

HERE以全球地图为翼:助力中国车企跨越“出海”门槛,共筑全球智能驾驶新未来

全球汽车产业正经历一场深刻的价值链重构 全球汽车产业的格局正在重塑。过去,中国汽车制造商凭借“中国速度”与“中国成本”优势,在本土市场快速崛起。如今,他们正迈向一个更具挑战性的新阶段:建立全球性的品牌价值和可持续的竞争力。在这个转型过程中,单纯的硬件出口模式已经不够看了。真正的挑战在于,如何跨越不同

时间:2026-04-30 14:02
狼蛛HERO 68 MINI Air预约:全球首款双8kHz三模矮磁轴键盘

狼蛛HERO 68 MINI Air预约:全球首款双8kHz三模矮磁轴键盘

狼蛛HERO 68 MINI Air键盘开启预约:三模矮磁轴,有线无线均支持8kHz 键盘圈最近又热闹起来了。狼蛛(AULA)刚刚上架了一款新品——HERO 68 MINI Air三模矮磁轴键盘,目前已经开启预约。这款键盘主打一个“快”字,号称是全球首款在有线和无线两种连接模式下,都能实现8kHz轮

时间:2026-04-30 12:59
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程