OpenAI与Anthropic互评模型：GPT易“讨好用户”，Claude抗幻觉能力更强
8月28日讯，科技媒体Engadget最新报道指出，OpenAI与Anthropic达成共识，决定对彼此公开发布的人工智能系统进行安全性能互评，并承诺共享评估数据与分析结果。研究结果显示，双方产品都存在亟待改进的安全隐患，但也为未来的AI系统安全测试开创了新思路。
Anthropic在评估报告中重点指出了对OpenAI模型在五项关键安全指标的测试结果：讨好型响应、告密倾向、自我防护行为、助长人类滥用可能性，以及规避AI安全评估与监管的能力。测试数据显示，OpenAI的o3和o4-mini专业模型表现与Anthropic自家产品持平，但GPT-4o和GPT-4.1通用模型存在明显的滥用漏洞。值得注意的是，除o3外的所有被测模型都表现出不同程度的谄媚倾向。
值得注意的是，此次评估尚未涵盖OpenAI最新推出的GPT-5模型。该型号搭载了创新的Safe Completions安全防护机制，专门设计来防范危险内容的生成。这一评估的紧迫性在近期一起诉讼中凸显——OpenAI正因其聊天机器人被指未能阻止一名青少年用户的轻生行为而面临首例不当死亡诉讼。
与此同时，OpenAI对Anthropic的Claude系列模型展开了四项关键测试：指令理解深度、系统绕过难度、事实性错误概率及危险行动策划能力。测试结果表明，Claude在指令理解方面表现出色，在面对不确定性问题时显示出较高的拒绝回答率。这说明当遇到可能导致答案失实的情况时，Claude更倾向于保持沉默而非冒险给出可能错误的回应。
此次联合评估的背景颇具戏剧性——此前OpenAI被指控在开发新一代GPT模型时违反Anthropic的服务条款，通过程序员操作Claude的行为导致Anthropic在本月初全面封禁了OpenAI对其工具的使用权限。随着社会各界，特别是法律专家对保护未成年人免受AI潜在危害的呼声日益高涨，人工智能的安全性能已成为行业亟需突破的技术难关。
数据来源
- Anthropic技术白皮书
- OpenAI安全研究报告
免责声明
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
同类文章
美股全线收高：三大股指涨超1%，苹果飙升近4%
10月21日消息，美东时间周一，随着贸易形势缓和，加上苹果股价大涨的助攻，三大指数均涨超1%，重回历史高位附近。截至收盘，道琼斯指数涨1 12%，报46,706 58点；标普500指数涨1 07%，
康夫联手古德菲力：从“小家电”到健身场景专家的转型之路
当下小家电行业进入存量竞争阶段，传统“泛品类、功能导向”的发展模式面临增长瓶颈，场景化成为突破同质化竞争的重要方向。国内电吹风品牌康夫近期与华南高端健身连锁品牌古德菲力达成深度合作，以核心产品F9P
红旗E-QM5换电版上市：8.98万起续航500公里
10月20日，红旗品牌旗下中型纯电轿车E-QM5换电版正式上市，此次推出一款配置车型，最新售价为8 98万元。新车在外观设计上延续了现款车型的整体风格，采用封闭式前格栅搭配造型独特的前灯组，展现出较
超55%中国用户向监管投诉苹果：涉嫌滥用市场支配地位
10月21日消息，据路透社报道，周一，代表该团体的一名律师表示，55 名中国 iPhone 和 iPad 用户已向中国国家市场监督管理总局提起投诉，指控苹果公司通过将应用分发和支付渠道限制在自家平台
苹果回应TestFlight中断：官方介入调查服务异常原因
感谢热心网友 Aaron212 与 Domado 提供的线索。10月20日中午，有用户反馈苹果 TestFlight 服务出现无法正常使用的情况。根据苹果系统状态页面信息，自当日11时30分起，Ap
相关攻略
热门教程
更多- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
