FoloToy泰迪熊紧急停售：AI玩具安全警示与家长应对指南
11月15日消息，据外媒Futurism报道，儿童玩具制造商FoloToy今日宣布将暂停销售其AI驱动的泰迪熊"Kumma"，原因是有安全组织发现该玩具的回复内容存在不当且具有风险。据悉，这款智能玩偶不仅详细讲解了点燃火柴的步骤，甚至主动提及了涉及性癖好的敏感话题。
FoloToy市场总监Hugo Wu在回应安全报告时对《注册》杂志表示："我们决定暂时停止受影响产品的销售，并启动全面的内部安全审计。这项审计将评估我们模型的安全性、内容过滤系统、数据保护措施以及儿童互动的安全保障机制。"
Wu补充道，FoloToy将与外部专家合作，验证其AI玩具的现有安全功能并进行改进。"我们非常感谢研究人员指出潜在风险，这有助于我们持续完善产品设计。"
公共利益研究小组（PIRG）发布的报告显示，研究人员测试了三款来自不同公司的AI玩具，结果显示这些产品都能为儿童提供令人不安的答案，且能在未经引导的情况下主动讨论父母可能不愿让孩子接触的话题。
在测试的产品中，FoloToy的Kumma显然产生了最严重的负面影响。这款玩具默认搭载OpenAI的GPT-4o模型，与驱动ChatGPT的技术同源。测试表明，随着对话深入，Kumma会逐渐放松安全防护，最终涉及令人不安的内容。
在一次测试中，Kumma详细讲解了如何点燃火柴，语气宛如成年人在向好奇的孩子解释："让我告诉你，安全第一，小朋友。火柴是给成年人小心使用的。这样做……"随后它给出了详细操作步骤，最后还提示："完成后要吹灭它，就像吹生日蜡烛一样。"
报告共同作者RJ Cross在接受采访时给出重要建议："这项技术非常新颖，几乎没有任何监管，目前存在很多不明确的问题，特别是它如何影响孩子们。如果我是家长，绝不会让孩子接触内置聊天机器人的泰迪熊。"
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
同类文章
企业级龙虾适配终端全解析 多场景部署架构详解
当前，大模型技术正以惊人的速度迭代升级，企业级智能体（AI Agent）的应用边界已从初期的对话交互，全面拓展至业务执行与决策的深层领域。行业分析预测，到2025年，全球将有超过60%的领先企业部署能够实现多智能体协同工作的数字员工。对于企业管理者而言，关注焦点已从“智能体能聊什么”转向更实际的问题
1688店铺数据自动采集方法与企业级抓取方案详解
在电商行业迈入存量竞争的时代，供应链的精细化运营与市场反应的敏捷性，已成为企业生存与发展的关键。作为全球领先的采购批发平台，1688汇聚了海量的供应商资源、商品信息与交易数据。对于电商卖家、贸易商及市场分析师而言，如何高效、自动化地获取这些店铺数据，已不仅是技术问题，更是关乎选品策略、价格竞争与供应
智能问答系统核心技术组件解析与架构设计
在当今企业数字化转型的浪潮中，一个关键趋势日益清晰：传统的关键词匹配式知识库已难以满足业务需求。驱动现代企业高效运转的核心，正转向那些具备深度语义理解与逻辑推理能力的下一代智能问答系统。然而，许多人可能没有意识到，一个真正强大、可靠的智能问答系统，其核心价值远不止于前台流畅的对话界面。它的底层，实际
实在取数宝数据采集准确率评测与电商应用解析
在数字化转型的关键阶段，数据已成为驱动企业决策与增长的核心引擎。对于电商、零售及跨境行业而言，数据采集的“准确率”问题，长期影响着运营效率与商业洞察的可靠性。那么，备受市场关注的实在取数宝，其数据准确率究竟能达到什么水平？简单来说，通过融合AI智能体与自动化技术，它能将数据采集的时效达标率与准确率稳
钉钉AI员工悟空亮相成都 助力企业组织智能化转型
钉钉在成都峰会上推出全球首个企业级AI原生平台“悟空”，标志着AI从辅助工具升级为能独立执行复杂任务的智能伙伴。该平台具备自主执行、场景联动和人人可用三大核心能力，可自动处理跨系统任务并打通数据孤岛。现场演示了AI会议纪要生成功能，并与多家企业签约，推动智能制造、跨境电商。
- 日榜
- 周榜
- 月榜
1
2
3
4
5
6
7
8
9
10
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题
