AI假文献蒙骗顶尖科学家，生物医学科研敲响警钟

虚假引文遍布各类文献，生物医学论文面临信任危机

**问：是什么契机或经历，让你开始关注生物医学论文中的引文造假问题？** Maxim Topaz：一切源于一次意外。当时，他借助AI聊天工具为一篇拟投向期刊的评论润色。虽然他本就从事AI研究，清楚AI存在“幻觉”问题，也特意核对了所有引文，但期刊编辑还是提出了质疑——AI悄悄植入了一条虚假文献，而他此前并未发现。 这件事的触动点在于：连常年和人工智能打交道的专业人士都会“中招”，普通研究者自然也难以幸免。更重要的是，此前从未有人统计过虚假引文最终流入经过同行评审、正式发表文献的比例。参考文献是整个科学体系的根基，一旦引文失去可信度，整个科研大厦都会摇摇欲坠。团队正是为了填补这一研究空白，开展了此次调研。 **问：你同时任职于哥伦比亚大学护理学院与数据科学研究所，这种跨学科背景对搭建这套自动化引文核验系统起到了哪些关键作用？团队在研发过程中遇到的最大技术难题是什么？** Maxim Topaz：临床医学和数据科学，两者确实缺一不可。临床医学知识能帮助团队判断哪些问题会造成实际影响，同时掌握不同细分领域正规引文的特征，以此区分普通引文错误和恶意造假。数据科学技术则让大规模自动化核验成为可能。 研发过程中最大的技术难题是误判问题。本次需核验的参考文献量非常大，哪怕系统的误判率极低，也会产生海量错误预警信息。核心挑战在于精准区分蓄意造假、无心笔误，以及标题简写等正常格式问题。对此，团队搭建了多层级核验流程，包含大语言模型初筛环节，并邀请独立人工审核人员对结果进行校验，最终系统准确率达到91%。在海量数据下打造一套可靠、可信的核验系统，是整个项目最难攻克的一关。 **问：本次核查覆盖约250万篇生物医学论文、1.25亿条参考文献，为何选择开展如此大规模的分析？业内此前对引文造假的认知，和你们调研得出的实际情况存在多大差距？** Maxim Topaz：之所以开展大规模调研，是因为单篇论文的引文造假发生率本就偏低，仅凭个别案例无法得出可靠结论。本次共核查247万篇开放获取论文、超过1.25亿条参考文献，只有这样才能统计出造假问题的整体发生率，以及长期变化趋势。 业内过往认知与现实情况相差极大。此前，大家普遍认为引文造假只是个别作者品行不端，或是写作疏忽导致的小众问题。但数据显示，虚假引文如今已遍布各类生物医学文献。自2023年至今，引文造假率涨幅超12倍。更值得关注的是，在本次核查开展时，98.4%存在造假引文的论文既未被更正，也未被撤稿。简言之，问题的严重程度和整改滞后性，都远远超出了行业以往的判断。

综述类论文是引文造假重灾区，证据链风险加剧

**问：为何引文造假率从2024年年中开始急剧攀升？主要诱因是人工智能、论文代写产业链，还是期刊评审流程存在漏洞？** Maxim Topaz：时间节点很有指向性。大型语言模型在2022年末至2023年开始全面普及，而生物医学论文从投稿到发表通常需要100天至200天。因此，借助人工智能辅助撰写的论文，从2024年年中起开始大量出现在数据库中。这也恰好是造假率骤增的转折点。 需要说明的是，本次研究仅证实了问题的存在，并未直接界定成因。论文代写产业泛滥、期刊索引规则与评审机制的变化，同样推高了造假比例，且各类因素相互叠加。正是因为期刊缺乏有效的核验环节，人工智能生成或代写产业链产出的虚假引文才得以顺利发表。因此，无法将问题归咎于单一原因。客观来讲，人工智能让编造引文变得轻而易举，而现行的审核机制原本就没有针对这类造假设计排查手段。 **问：和以往人为编造的引文相比，人工智能生成的虚假引文有哪些核心差异？又会带来哪些更广泛的影响？** Maxim Topaz：二者最本质的区别在于错误类型。过去的引文问题多是粗心导致的疏漏，比如页码写错、文献观点引用有误，但被引用的文章本身是真实存在的。如今人工智能生成的引文对应的文献完全子虚乌有。这些假引文格式规范，署上真实且业内知名的研究者姓名，贴合论文主题，发表日期也设置得合情合理，足以蒙混过初步检查，常规的同行评审也往往难以识破。 问题的核心在于，引文本是科研人员验证研究结论的基石，现在这个基石正在被掏空。从“引文内容有误”演变为“引用文献根本不存在”，这不再是证据质量下降，而是直接切断了科学论证的证据链。 **问：在核查过程中，你们发现过最极端、最令人震惊的引文造假案例是什么？** Maxim Topaz：2025年，某开放获取肿瘤学期刊上的一篇论文，经核验的30条参考文献中，有18条是造假内容。这些假引文精准匹配论文研究方向，作者都是该领域真实专家，发表时间也集中在2023年至2024年——几乎是量身定做。 另一个现象同样值得警惕：在某期刊一年内刊发的11篇论文中，反复出现两位相同署名的作者，这些论文包含15条虚假引文，且涉及多个互不相关的前沿研究领域。比起单篇问题论文，更令人担忧的是这类批量造假的现象。更让人不安的是，这些问题论文一直留在公开文献库中，还会被其他论文继续引用，却没有任何标注警示、更正说明，行业也未对此质疑。 **问：综述类论文的引文造假率比其他类型论文高出约57%，而综述又是临床诊疗指南的制定基础。为何综述类论文尤其容易遭到人工智能驱动的引文造假侵袭？** Maxim Topaz：综述类论文成为造假重灾区，其实是多重因素叠加的结果。首先，综述的参考文献列表篇幅更长，虚假引文更容易浑水摸鱼；其次，撰写综述需要梳理、归纳大量文献，这也是研究者最常借助人工智能辅助的环节，而该工作场景恰恰极易催生虚假引文。 更关键的是，综述处于整个科研证据链的上游，各类系统评价依托综述撰写，临床诊疗指南又以系统评价为依据。数据显示，综述类论文每万篇的引文造假数为16.7条，其他类型论文为10.6条。这约57%的差距带来的危害远比数字本身更大——综述中的造假内容不会止步于此，还会层层传导，最终影响临床医生和政策制定者依赖的核心证据体系。

若不及时管控，“污染”将难逆转，学术生态面临连锁崩塌

**问：虚假引文会如何误导临床决策、威胁患者安全？医学界是否低估了这类现实风险？** Maxim Topaz：虚假引文的危害，会沿着完整的证据链逐步传导。临床诊疗指南依托系统评价制定，目前已有证据证实，部分代写论文已被纳入撰写指南所用的系统评价中。如果一份指南引用的论文本身含有大量虚假引文，那么其提出的治疗方案就失去了应有的科学支撑。 需要明确的是，我们并未追踪患者的实际诊疗结果，因此无法量化虚假引文直接造成的医疗伤害，也不会妄下此类论断。但现有科研证据体系存在结构性风险，且这一风险确实被医学界低估了。已有系统评价发现，医学论文中约四分之一的参考文献存在各类错误，这足以说明，参考文献核验并非同行评审的常规环节。连普通的引文错误都无法全面排查，想要识破精心伪装的人工智能造假引文，自然难上加难。 **问：你们的研究为行业提出了4条改进建议。在你看来，目前哪一条建议最为紧迫，却又最难落地？** Maxim Topaz：当下最紧迫的是第一条建议，即期刊出版商需在同行评审启动前，将自动化引文核验纳入论文投稿流程。目前相关技术已经成熟，落地障碍并非技术问题，而是体制与成本问题。出版商需要投入资金、调整沿用已久的工作流程，这也是该建议看似可行，推进起来却阻力重重的原因。 而落地难度最大的是对已发表文献开展回溯清理。对数百万篇存量论文逐一筛查、发布更正内容，需要高昂成本，且没有任何一家机构愿意全权负责这项工作，同时学界也缺乏动力去复盘、修正已经刊发的论文。总结来说，当下最该立刻推进的是在投稿环节落实事前引文核验，而最难完成的是清理早已被污染的存量学术文献。 **问：未来3年至5年，你对整个行业最大的担忧是什么？你呼吁全球科研界、期刊出版商及监管机构立刻采取哪一项行动？** Maxim Topaz：最大的担忧是，这可能会形成恶性循环。一篇含虚假引文的论文发表后，会被后续新论文继续引用，甚至被用于训练新一代人工智能模型，进而让造假内容不断传播、放大。若不及时管控，文献库被污染的速度会远远超过清理修复的速度。 最紧迫的提议是：将自动化引文核验纳入同行评审前的标准流程，作为整个行业的标准。这并非技术难题，而是流程与投入的问题。直白来讲，问题的根源是未经核查的人工智能生成内容流入永久学术文献。我们并非要禁止使用人工智能工具，而是要把核验环节嵌入整个工作流程。人工智能本身并非隐患，真正的风险是任由未经审核的人工智能产出内容堂而皇之地进入学术体系。 （文章来源：每日经济新闻）