仅需250份文件实现AI“洗脑”，看黑客如何操纵ChatGPT
10月19日消息，Anthropic、英国AI安全研究所与艾伦·图灵研究所最近发布联合研究，揭示了一个令人担忧的现象：像Claude、ChatGPT和Gemini这样的大语言模型，对数据投毒攻击的防御能力远低于预期。研究发现，攻击者只需使用极少量恶意文件，就能在模型中成功植入"后门"程序。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
这项研究对参数规模从60万到130亿不等的多个AI模型进行了训练测试，结果显示无论模型规模如何扩展，攻击者仅需插入约250份被污染的训练文件，就能有效操控模型的响应行为。这一发现彻底颠覆了业界长期持有的"模型越大、攻击难度越高"的传统认知。
在被测试的最大模型（130亿参数）中，250份恶意文件仅占训练数据总量的0.00016%，然而当模型遇到特定的"触发短语"时，就会按照植入的后门指令执行，输出毫无意义的文本，而非正常的连贯回应。
研究人员还尝试通过持续的"净数据"训练来消除后门，结果显示这些后门程序仍在一定程度上持续存在，表现出较强的顽固性。
虽然本次研究主要针对简单的后门行为，且测试模型规模尚未达到商业旗舰级水平，但研究团队强烈呼吁业界必须尽快改进现有的安全实践方案。
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
同类文章
AI能从单份血样检出多种神经疾病
来源：科技日报科技日报讯 （记者刘霞）由瑞典隆德大学领衔的国际研究团队，研发出一款新的人工智能（AI）模型。该模型仅需一份血液样本，便能精准识别多种神经退行性疾病。团队期望，该AI模型未来能实现“一
褪去虚火，脑机接口方能释放长远价值
来源：科技日报2026年开年，马斯克宣称脑机接口产品将于年内启动量产，引爆全球市场情绪。国内资本随即扎堆追捧，脑机接口相关概念股大幅走高，行业短期炒作虚火蔓延。进入3月，脑机接口迎来多重利好：脑机接
黎万强、洪锋退出小米科技股东名单
人民财讯4月7日电，企查查APP显示，近日，小米科技有限责任公司发生工商变更，原股东小米联合创始人黎万强、洪锋退出，同时，注册资本由18 5亿元减至约14 8亿元。 企查查信息显示，该公司成立于20
新闻分析｜“阿耳忒弥斯2号”任务为何只绕月不登月
新华社北京4月7日电 新闻分析｜“阿耳忒弥斯2号”任务为何只绕月不登月 新华社记者张晓茹 美国东部时间6日18时40分许（北京时间7日6时40分许），执行美国“阿耳忒弥斯2号”载人绕月飞行任
“链接未来·智汇静安”区块链创新应用优秀场景分享（四）| 信医基于区块链与隐私计算的真实世界研究数据产品
聚焦数字技术，释放创新动能。为集中展示静安区区块链技术从“实验室”走向“应用场”的丰硕成果，挖掘一批可复制、可推广的行业解决方案，加速构建区块链产业生态闭环，静安区数据局特推出“静安区区块链创新应用
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题
