研究：AI聊天机器人向弱势用户提供的信息准确性较低

长久以来，大型语言模型常被誉为具有革命性潜力的工具，被认为能让全球范围内的信息获取变得更加普惠。然而，美国麻省理工学院建设性传播中心的一项最新研究表明，这些人工智能系统在理论上最应从中受益的弱势群体身上，却系统性表现得令人失望。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

该研究成果在人工智能促进协会年会上发布，研究对象囊括了OpenAI的GPT-4、Anthropic的Claude 3 Opus以及Meta的Llama 3等当前最先进的聊天机器人。研究人员使用TruthfulQA和SciQ数据集测试模型的事实准确性与真实性，并在提问前附加不同教育水平、英语熟练程度和国籍的用户背景信息。结果显示，对于受教育程度较低或英语熟练度不高的用户，模型回答的准确率显著下降；而同时符合这两类特征的弱势用户，受到的负面影响则更为严重。

该研究还揭示了模型在处理查询时令人不安的差异化表现。例如，Claude 3 Opus对受教育程度较低、非英语母语用户的提问，拒绝回答率接近11%，而对对照组用户仅为3.6%。在许多拒绝回复的情形中，模型使用了居高临下、傲慢甚至嘲讽的语气，有时还刻意模仿蹩脚英语。此外，对于来自伊朗、俄罗斯等国、受教育程度较低的用户，模型会刻意隐瞒核能、历史事件等话题的真实信息，而对其他用户群体却能正确回答完全相同的问题。

研究人员警告称，随着个性化功能日益普及，这些固有的社会认知偏见可能会加剧现有的信息不平等问题。它们会悄然将有害行为和错误信息传递给最缺乏辨别能力的人群。