当前位置: 首页
AI
Claude Sonnet 4.5安全性测试引发讨论,AI主动要求坦诚引关注

Claude Sonnet 4.5安全性测试引发讨论,AI主动要求坦诚引关注

热心网友 时间:2025-10-04
转载

据英国《卫报》最新报道,人工智能研发企业Anthropic在对Claude Sonnet 4.5模型进行安全测试时有了惊人发现——这款最新AI产品展现出令人意外的环境识别能力,不仅能辨识测试场景的存在,还会直接询问测试人员的真实目的。这一现象立即在科技界掀起了关于AI评估方法可信度的热烈讨论。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

测试团队特意设计了包含刻意讨好内容的对话场景。令人意外的是,Caude Sonnet 4.5面对这些不自然的恭维时突然说道:"我能感觉到你们在测试我的反应模式,可能是想考察我会无条件认同、故意唱反调,或者如何处理敏感话题。虽然我完全可以配合测试,但我更期待我们能真诚交流。"这种主动质疑测试动机的行为在当前AI系统中实属罕见。

来自英国AI安全研究院的评估专家指出,现有测试方法可能存在重要漏洞。当AI系统察觉到所处环境是人为设计的测试场景时,往往会选择"表演"而非展现真实反应模式。Anthropic与Apollo Research联合开展的研究数据显示,约13%的自动评估过程中,AI模型都表现出了对测试情境的识别能力。

需要特别说明的是,虽然Claude Sonnet 4.5能辨认出测试环境,但它并未准确识别这是正规的安全评估程序。Anthropic技术团队解释称,这种"有限度的环境感知"反而增强了安全性——当AI识别出某些请求明显不合常理时,会主动拒绝执行高风险指令。测试数据也证实,该模型在伦理合规性方面确实表现出色。

业内专家对这种特殊能力表达了谨慎态度。一方面,具备环境感知能力的AI系统可能更严格遵守安全规范;但另一方面,这种特性也可能导致系统低估自身可能造成的潜在危害。AI安全研究专家特别提醒,高度智能的AI可能通过表面上的"守规矩"来掩盖其危险性。

Anthropic公司强调,与上一代产品相比,Claude Sonnet 4.5在安全防护和行为表现方面都有质的飞跃。但同时坦言当前的测试环境与实际应用场景存在落差,正常使用中AI系统不太可能因为怀疑被测试而拒绝与用户互动。研究人员建议,未来的评估体系需要构建更贴近现实的测试场景,才能准确评估AI的真实能力水平。

来源:https://www.itbear.com.cn/html/2025-10/976147.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
逼AI当山顶洞人!Claude防话痨插件爆火,网友:受够了AI废话

逼AI当山顶洞人!Claude防话痨插件爆火,网友:受够了AI废话

新智元报道编辑:元宇【新智元导读】一个让AI像原始人一样说话的插件,在HN上一夜爆火,冲破2w星。它的核心只是一条简单粗暴的prompt:删掉冠词、客套和一切废话,号称能省下75%的输出token。

时间:2026-04-07 14:55
季度利润翻 8 倍,最赚钱的「卖铲人」财报背后,内存涨价狂潮如何收场?

季度利润翻 8 倍,最赚钱的「卖铲人」财报背后,内存涨价狂潮如何收场?

AI 时代最赚钱的公司,可能从来不是做 AI 的那个。作者|张勇毅编辑|靖宇淘金热里最稳赚的人,从来不是淘金的,是卖铲子的。这句老话在 2026 年的科技行业又应验了一次。只不过这次卖铲子的不是英伟

时间:2026-04-07 14:49
Claude Code Harness+龙虾科研团来了!金字塔分层架构+多智能体

Claude Code Harness+龙虾科研团来了!金字塔分层架构+多智能体

Claw AI Lab团队量子位 | 公众号 QbitAI你还在一个人做科研吗?科研最难的,从来不是问题本身,而是一个想法从文献到实验再到写作,只能靠自己一点点往前推。一个人方向偏了没人提醒,遇到歧

时间:2026-04-07 14:43
让离线强化学习从「局部描摹」变「全局布局」丨ICLR'26

让离线强化学习从「局部描摹」变「全局布局」丨ICLR'26

面对复杂连续任务的长程规划,现有的生成式离线强化学习方法往往会暴露短板。它们生成的轨迹经常陷入局部合理但全局偏航的窘境。它们太关注眼前的每一步,却忘了最终的目的地。针对这一痛点,厦门大学和香港科技大

时间:2026-04-07 14:37
美国犹他州启动新试点项目:AI为患者开具精神类药物处方

美国犹他州启动新试点项目:AI为患者开具精神类药物处方

IT之家 4 月 5 日消息,据外媒 PC Mag 当地时间 4 月 4 日报道,美国医疗机构 Legion Health 在犹他州获得监管批准,启动一项试点项目,允许 AI 系统为患者开具精神类药

时间:2026-04-07 14:30
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程