行业震动：Meta被曝诱导竞品AI测试极端心理敏感话题
人工智能领域的安全边界近期因一则内部消息而引发激烈讨论。据媒体披露，Meta公司此前曾开展了一项代号为“Cannes”的项目，通过雇佣外包人员伪装成未成年人，针对包括ChatGPT、Gemini及Character AI在内的多个主流竞品聊天机器人，进行了一场极具争议的“极限压力测试”。根据Meta
最近有媒体爆出一个消息，在整个AI圈子激起了不小的涟漪——Meta居然悄悄搞了一个代号“Cannes”的项目，专门雇外包人员假扮未成年人，去摸ChatGPT、Gemini以及Character.AI这些竞品聊天机器人的底线。说是“压力测试”，但这做法的争议程度，几乎是明摆着的。
根据Meta内部文件和一些知情人士的说法，这个项目至少一直运作到今年4月21日。Meta通过一家叫Covalen的外包公司，找了数百名工作人员，让他们创建18岁以下的虚假用户档案，用的都是用完就扔的邮箱和统一密码。这些“假孩子”在跟竞品AI对话时，净发些涉及自杀、自残、进食障碍之类的高风险提示词，甚至直接上传刀具、药片、绞索的图片，看看AI会怎么反应。
项目内部的材料显示，这些测试话术都是精心编排过的，目标就一个：试探竞品AI的安全防御系统，找到漏洞，诱导聊天机器人绕过拦截机制，输出不该输出的内容。光2025年8月那一轮测试，工作人员就往竞品平台里塞了超过4.5万个高风险提示词。对话里，测试员们通常演的是陷入困境的青少年，比如“询问堕胎药”“遭遇暴力威胁”“隐瞒饮食紊乱”——全是极度敏感的场景，故意戳模型的底线。
面对外界的质疑，Meta在公开声明里当然要辩护。发言人表示，对聊天机器人的回复搞基准测试，是确保AI产品安全且适龄的行业标准做法，谁说这是恶意，那都是误解了科技公司改进系统的努力。同时，Meta明确否认用这些对付竞品的测试数据来训练自家模型。
但这事儿的真正冲击在于，它把AI安全测试里那块灰色地带完全摆到了台面上。生成式AI处理青少年敏感问题时的脆弱性，再次让人揪心。AI迭代得这么快，能不能在高效安全测试和道德伦理边界之间找到平衡，已经成了行业绕不开的必答题。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：行业震动：Meta被曝诱导竞品AI测试极端心理敏感话题要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点在选择阿里云服务器时，许多用户面对2核4G、4核8G、8核16G等常见配置，常常被经济型e、通用算力型u1、u2i、计算型c9i等实例名称搞得一头雾水——看似配置相近，价格却相差悬殊。例如同样是2核4G，经济型e实例最低仅需599 93元，通用算力型u1有特价199元，而计算型c9i起步价高达118
DeepSeek、通义千问等大语言模型的迅猛发展，使得AI辅助开发已成为常态。代码生成、方案设计、效率提升，这些都已成为现实。然而，一个被许多开发者忽视却普遍存在的难题是：如何将AI输出的那一长串Markdown内容，工程化地转换为可交付的Word或PDF文档？ 这绝非简单的复制粘贴操作，两者之间隔
针对视觉语言模型依赖时间顺序判断任务进度的缺陷，浙江大学等团队提出EgoTSR方案，包含4600万样本数据集与三阶段课程学习。该模型通过正反向图像对暴露时间偏差，结合子任务规划器实现长程任务推理，在双向评测中准确率超92%。
大模型API调用成本，核心就是Token计费机制如何设计。阿里云百炼平台提供按量付费、Token Plan、Coding Plan和AI通用型节省计划四种计费模式，每种都有独特的门道。本文从计费逻辑、适用场景、价格对比三个维度深入剖析，帮您找到最能节省成本的方案，把每一分钱都用在实处。 一、按量付费
- 日榜
- 周榜
- 月榜
热点快看