研究：AI聊天机器人向弱势用户提供的信息准确性较低
IT之家 2 月 24 日消息，大型语言模型一直被广泛推崇为具有革命性的工具，能够让全球信息获取变得更加普惠。然而，美国麻省理工学院建设性传播中心的一项最新研究表明，这些人工智能系统，在本应最能从中
长久以来，大型语言模型常被誉为具有革命性潜力的工具，被认为能让全球范围内的信息获取变得更加普惠。然而，美国麻省理工学院建设性传播中心的一项最新研究表明，这些人工智能系统在理论上最应从中受益的弱势群体身上，却系统性表现得令人失望。
该研究成果在人工智能促进协会年会上发布，研究对象囊括了OpenAI的GPT-4、Anthropic的Claude 3 Opus以及Meta的Llama 3等当前最先进的聊天机器人。研究人员使用TruthfulQA和SciQ数据集测试模型的事实准确性与真实性，并在提问前附加不同教育水平、英语熟练程度和国籍的用户背景信息。结果显示，对于受教育程度较低或英语熟练度不高的用户，模型回答的准确率显著下降；而同时符合这两类特征的弱势用户，受到的负面影响则更为严重。
该研究还揭示了模型在处理查询时令人不安的差异化表现。例如，Claude 3 Opus对受教育程度较低、非英语母语用户的提问，拒绝回答率接近11%，而对对照组用户仅为3.6%。在许多拒绝回复的情形中，模型使用了居高临下、傲慢甚至嘲讽的语气，有时还刻意模仿蹩脚英语。此外，对于来自伊朗、俄罗斯等国、受教育程度较低的用户，模型会刻意隐瞒核能、历史事件等话题的真实信息，而对其他用户群体却能正确回答完全相同的问题。
研究人员警告称，随着个性化功能日益普及，这些固有的社会认知偏见可能会加剧现有的信息不平等问题。它们会悄然将有害行为和错误信息传递给最缺乏辨别能力的人群。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：研究：AI聊天机器人向弱势用户提供的信息准确性较低要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点VSona是一个开发AI伴侣的平台，提供聊天、角色扮演、创意表达等功能。用户可自定义头像和声线，支持文字或语音互动。AI伴侣具备动画反馈和语音响应，营造安全、沉浸的个性化互动空间。
MastermallowAI音频母带处理适用于音乐、播客及内容创作者。可将原始录音一键转为专业音频，提升播客音质，为音乐作品添加母带效果。特色包括智能音频分析与增强、原音与母带实时对比、高质量成品下载。
MyCharacter AI是基于Polygon链的去中心化应用，通过CharacterGPTV2多模态AI系统生成具有独特形象和性格的AI角色。用户可与角色实时互动，并将其作为NFT收藏、交易或转让，实现AI角色生成、互动与资产化的一体化。
ToMate基于AI智能高效处理客户消息，适用于客服、销售及市场营销等场景。它能及时贴心回复，支持解析多种文件格式，并采用灵活定价方案，显著提升工作效率与客户满意度。
- 日榜
- 周榜
- 月榜
热点快看