研究:AI聊天机器人向弱势用户提供的信息准确性较低
长久以来,大型语言模型常被誉为具有革命性潜力的工具,被认为能让全球范围内的信息获取变得更加普惠。然而,美国麻省理工学院建设性传播中心的一项最新研究表明,这些人工智能系统在理论上最应从中受益的弱势群体身上,却系统性表现得令人失望。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

该研究成果在人工智能促进协会年会上发布,研究对象囊括了OpenAI的GPT-4、Anthropic的Claude 3 Opus以及Meta的Llama 3等当前最先进的聊天机器人。研究人员使用TruthfulQA和SciQ数据集测试模型的事实准确性与真实性,并在提问前附加不同教育水平、英语熟练程度和国籍的用户背景信息。结果显示,对于受教育程度较低或英语熟练度不高的用户,模型回答的准确率显著下降;而同时符合这两类特征的弱势用户,受到的负面影响则更为严重。
该研究还揭示了模型在处理查询时令人不安的差异化表现。例如,Claude 3 Opus对受教育程度较低、非英语母语用户的提问,拒绝回答率接近11%,而对对照组用户仅为3.6%。在许多拒绝回复的情形中,模型使用了居高临下、傲慢甚至嘲讽的语气,有时还刻意模仿蹩脚英语。此外,对于来自伊朗、俄罗斯等国、受教育程度较低的用户,模型会刻意隐瞒核能、历史事件等话题的真实信息,而对其他用户群体却能正确回答完全相同的问题。
研究人员警告称,随着个性化功能日益普及,这些固有的社会认知偏见可能会加剧现有的信息不平等问题。它们会悄然将有害行为和错误信息传递给最缺乏辨别能力的人群。
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
具身智能研发框架Dexbotic重塑机器人开发流程
近日,开源具身智能原生框架Dexbotic宣布正式支持以RLinf作为其分布式强化学习后端。对具身智能开发者而言,这不仅是一次普通的工程适配,更意味着VLA模型研发中长期存在的「SFT与RL割裂」问题,正在被真正打通。 这是一种典型的「乐高式协作」:双方不强行Fork、不粗暴揉合代码,而是保持清晰边
CTO如何平衡AI效率提升与团队建设管理
最近,一个反复出现的新闻标题越来越常见:某大型企业一边高调宣扬AI带来的效率提升,一边大规模裁员。 主角轮番更替,背后的逻辑却如出一辙。企业既面临内部削减成本的压力,又需要向外界展示竞争优势。对许多企业而言,这意味着加大AI的使用力度,同时裁减被认为“多余”的员工——尽管目前对AI能力与可靠性的评估
OpenAI发布三款实时语音模型支持推理翻译与转录
OpenAI近期在语音AI领域动作频频,正式发布了三款全新的实时语音模型。官方表示,此举旨在“为开发者开启全新的语音应用类别”,推动语音交互技术的创新边界。这三款模型分别聚焦推理、翻译与转录三大核心功能,各具特色,预示着实时语音应用将迎来更丰富的可能性。 简单来说,这三款新品分别瞄准了实时对话推理、
捷克Albert超市借力AI货架扫描机器人提升运营效率
近日,Brain Corp发布了与捷克领先零售商Albert合作扩展AI货架扫描机器人的最新成果报告。报告显示,由人工智能驱动的自动化库存盘点解决方案在实际门店运营中取得了“高度成功”的表现,有效提升了零售运营的效率和准确性。 Albert是捷克知名的零售品牌,隶属于国际零售巨头Ahold Delh
OpenAI发布Daybreak网络安全AI模型
网络安全领域迎来重大进展。今日,OpenAI正式推出其专为网络安全打造的AI模型——Daybreak。这并非一次普通的功能升级,而是一个集成了多重技术能力的全新解决方案。 根据官方披露,Daybreak的核心架构由三大关键部分组成:其一是作为推理基础的GPT-5 5模型;其二是强大的Codex代码生
- 日榜
- 周榜
- 月榜
1
2
3
4
5
6
7
8
9
10
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
热门话题

