研究:AI聊天机器人向弱势用户提供的信息准确性较低
长久以来,大型语言模型常被誉为具有革命性潜力的工具,被认为能让全球范围内的信息获取变得更加普惠。然而,美国麻省理工学院建设性传播中心的一项最新研究表明,这些人工智能系统在理论上最应从中受益的弱势群体身上,却系统性表现得令人失望。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

该研究成果在人工智能促进协会年会上发布,研究对象囊括了OpenAI的GPT-4、Anthropic的Claude 3 Opus以及Meta的Llama 3等当前最先进的聊天机器人。研究人员使用TruthfulQA和SciQ数据集测试模型的事实准确性与真实性,并在提问前附加不同教育水平、英语熟练程度和国籍的用户背景信息。结果显示,对于受教育程度较低或英语熟练度不高的用户,模型回答的准确率显著下降;而同时符合这两类特征的弱势用户,受到的负面影响则更为严重。
该研究还揭示了模型在处理查询时令人不安的差异化表现。例如,Claude 3 Opus对受教育程度较低、非英语母语用户的提问,拒绝回答率接近11%,而对对照组用户仅为3.6%。在许多拒绝回复的情形中,模型使用了居高临下、傲慢甚至嘲讽的语气,有时还刻意模仿蹩脚英语。此外,对于来自伊朗、俄罗斯等国、受教育程度较低的用户,模型会刻意隐瞒核能、历史事件等话题的真实信息,而对其他用户群体却能正确回答完全相同的问题。
研究人员警告称,随着个性化功能日益普及,这些固有的社会认知偏见可能会加剧现有的信息不平等问题。它们会悄然将有害行为和错误信息传递给最缺乏辨别能力的人群。
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
同类文章
22岁辍学生凭AI垃圾分类估值10亿,数据生意改写垃圾回收
智东西编译 陈佳编辑 程茜智东西3月27日消息,据外媒Business Insider昨日报道,美国AI数据采集创企Kled AI正在付费让普通人帮忙采集AI训练数据,其平台上线仅两个月用户数已突破
一口气发布三大王炸模型!昆仑万维公布2026年AGI战略蓝图
编辑|杜伟就在 27 日下午,在火热进行中的 2026 中关村论坛上,一家国产头部 AI 厂商引爆了全场!昆仑万维,这家 2024 年便已「All in AGI 与 AIGC」的实力玩家,亮出了其实
刚刚NeurIPS退稿?了解审稿趋势与避坑指南
机器之心编辑部就在刚刚,正在舆论风口上左摇右摆的 AI 顶会 NeurIPS 发布了一条长推文,针对此前的「NeurIPS 限制华为等实体机构投稿」事件做了解释、道歉、承诺三件事:解释:在编制 Ne
Avata+360创作者新边界:大疆赠予的360%变革
大疆用一英寸全景影像、O4+ 图传与全向避障,带来了对「每个人都能飞出好片」最认真的一次回答。作者|张勇毅编辑|郑玄3 月 26 日,大疆发布了 Avata 360——大疆首款 8K 全景旗舰无人机
昆仑万维推出AIGC全家桶大模型,AI视频游戏音乐全线齐发
智东西作者|江宇编辑|冰倩智东西3月27日报道,今日,在2026中关村论坛“人工智能主题日”现场,昆仑万维旗下天工AI集中发布了其最新的“AIGC全家桶大模型”。其中包括:游戏世界模型Matrix-
- 日榜
- 周榜
- 月榜
相关攻略
2015-03-10 11:25
2015-03-10 11:05
2021-08-04 13:30
2015-03-10 11:22
2015-03-10 12:39
2022-05-16 18:57
2025-05-23 13:43
2025-05-23 14:01
热门教程
- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程

