新华读报研究警示AI给学术论文捏造参考文献
一项研究显示，2021至2024年间生物医学领域2810篇学术文章共出现4046条捏造的参考文献，源于人工智能的“幻觉”问题。AI在需要精确引用的场景中尚不可靠，学术论文严谨性仍需人类把关。
先抛出一个略显残酷的事实：借助AI撰写学术论文，远非表面看上去那般可靠。近期，有研究团队展开统计，发现在短短三年间，被收录于学术期刊的2810篇文章里，竟有4046条参考文献纯属虚构——说白了，这些内容完全是人工智能“编造”出来的。而背后最核心的隐患，依然是AI的“幻觉”问题尚未得到解决。
具体来看，据《参考消息》6月2日发布的报道，这项发现出自美国《福布斯》杂志。研究团队针对生物医学领域发表的大量期刊文章进行了筛查，结果发现这些含有虚假、根本不存在的参考文献的文章，时间跨度覆盖2021年至2024年。换言之，这一问题并非偶然事件，而是一个逐渐累积的系统性风险。
更值得留意的是，那些被“捏造”出来的参考文献，其实并非AI蓄意欺骗，而是其在生成文本时“脑补”出的内容——模型自身也无法判断这些文献的真伪。在学术界，参考文献的真实性与可追溯性是研究工作的基本前提，而AI这种“幻觉式编造”行为，很可能直接动摇这一根基。
从宏观层面看，这一问题释放出清晰信号：当前的大语言模型，在需要精准引用与事实核查的学术写作场景中，远未达到可依赖的水平。研究团队指出，这2800多篇仅是目前已发现的案例，实际数量可能远超这个范围。说到底，AI更适合扮演辅助工具的角色，而非“代笔人”。学术论文的严谨性，终究需要人类作者亲自把关。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：新华读报研究警示AI给学术论文捏造参考文献要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点佑驾创新与乐动机器人达成战略合作，围绕技术、产品、场景、数据四维度展开深度协同，旨在加速物理AI规模化落地，拓展无人车与机器人场景边界，推动具身智能商业化进程。
Meta开放AI算力租赁业务，市场反应从算力过剩转向算力商业运营。GPU从自用转向对外出租，算力从成本中心转为利润中心。AI云竞争核心从拥有GPU数量转向稳定跑满GPU的能力，依赖同步与参考时钟等底层基础设施的长期稳定运行。
针对大型多仓库工程（30+微服务、10+前端微应用），搭建包含规则、技能、子代理、13阶段工作流与门禁脚本的Harness系统，解决PRD不可信、方案与代码脱节、改完无人验证、交付环节琐碎等痛点，使AI在真实业务中稳定跑完需求。
部署MCP Toolbox前，先看清它的适用场景与安全边界，避免在权限管理不完善时接入敏感数据。 核心内容： 1 MCP Toolbox的核心功能与两种使用路线 2 项目适合与不适合的团队场景分析 3 实际验证的安全检查与关键限制 先说结论 MCP Toolbox 很适合小团队研究“让 AI
- 日榜
- 周榜
- 月榜
热点快看