AI参与论文撰写与评审研究者应如何应对信任危机

人工智能正深度融入文献检索、实验设计、论文撰写乃至同行评议等科研全流程，这标志着科研范式、信任基础与治理体系正经历一场深刻变革。一个核心议题随之浮现：未来研究者应如何信任AI？科研机构与政策制定者又需承担何种责任？

一组最新调研数据揭示了当前科研界的矛盾心态。一项覆盖全球113个国家、超过3200名科研人员的报告显示，已有超过半数（58%）的研究者在工作中使用AI工具，但认为当前AI工具值得信赖的比例仅为22%。更值得关注的是，仅有三成（32%）受访者认为其所在机构建立了完善的AI治理机制，而近半数（45%）科研人员坦言，自己仍缺乏系统的AI技能培训。

这种矛盾与期待，在近期由爱思唯尔与中国科学学与科技政策研究会于上海联合举办的专家圆桌会议上得到了深入探讨。与会专家普遍达成共识：未来两到三年内，AI将成为驱动科学发现与知识创新的关键引擎。然而，正如中国科学学与科技政策研究会名誉理事长穆荣平所指出的，AI赋能科研既需要“油门”也离不开“刹车”，在充分利用这一强大助手的同时，必须有效防范其潜在风险。

打破学科壁垒，也制造新的鸿沟

中国科学院院士、浙江大学教授杨卫提出了前瞻性观点。他认为，AI已超越单纯提升效率的工具范畴，正在深刻重塑科研范式本身。“历史上许多重大创新诞生于学科交叉地带，而AI有望彻底拆除这些边界。”他预见，AI将极大加速跨学科融合与交叉创新，甚至可能催生出全新的知识体系与研究方法。

然而，一线科研工作者在实践中也察觉到了新的隐忧。东华大学材料科学与工程学院教授朱丽萍分享了她的观察：其团队在纤维材料研究中开发了垂直领域大模型，但她发现部分学生开始过度依赖AI辅助，无形中绕过了传统科研中至关重要的知识积累与独立思辨训练。长此以往，研究者可能沦为AI的重复性劳动工具，这与科研追求原始创新的根本目标背道而驰。

上海人工智能研究院总工程师王资凯则指出了另一个现实挑战：AI并未如预期般“拉平”科研门槛，反而可能加剧科研领域的“马太效应”。头部高校与研究机构凭借其强大的算力与数据资源优势，科研产出正进入“规模化”阶段，能够并行推进多项研究任务，单篇论文的时间与资源成本被显著压缩。相比之下，资源相对薄弱的机构可能被进一步拉开差距，形成新的数字鸿沟与科研不平等。

此外，AI在学术信息获取方面的局限性也不容忽视。有与会专家指出，当前部分AI智能体在进行文献检索与知识搜集时，会受到平台访问权限、数据接口限制乃至人机验证机制等制约，导致一些关键学术文献无法被有效纳入参考体系。这意味着，那些经过长期沉淀形成的高质量学术内容，可能在AI驱动的科研流程中被无意遗漏，进而影响研究结论的完整性与可靠性。

信任危机下，如何重塑科研评价体系

AI的深度介入，正在动摇以信任为基石的科研评价体系。深圳理工大学讲席教授赵伟将AI比作一把“双刃剑”——它不仅拥有强大的内容生成能力，也具备同样惊人的信息伪造潜力，这对科研数据的真实性与成果的可信度构成了前所未有的挑战。从编造实验数据到生成虚假参考文献，AI有时非但未能减轻科研负担，反而增加了额外的核查与验证工作量。赵伟提出，解铃还须系铃人，或许可以探索利用AI结合区块链等可信技术，对数据采集、存储、分析与呈现进行全流程追溯与监测，从而从技术层面防范实验造假与学术不端。

类似的风险已渗透至同行评议这一核心质量控制环节。武汉大学信息管理学院教授许洁分享了一个真实案例：其团队向某知名期刊投稿后，收到的审稿意见被明确识别为AI生成。这些意见表面看似合理，却夹杂着预设立场与不实信息，既难以直接采纳，也无法有效指导论文修改。这引发了一个更深层的忧虑：如果从内容生产到成果评价均由AI主导，人类的原创性思考与真正具有突破性的发现，该如何被有效识别与认可？

这引出了一个根本性问题：当AI既能撰写论文，甚至参与论文评审，论文本身是否还是衡量科研成果的核心载体？与会专家认为，未来的科研评价应当更加关注研究解决实际科学问题或现实挑战的能力，而非单纯追求论文数量。AI的真正价值，应在于从海量学术信息中提炼有效知识、识别关键模式与洞见，而非批量生产低质量文本。科研人员的核心价值，将更多体现在提出关键科学问题、设计创新研究路径、作出复杂价值判断等方面——这些，正是AI难以替代的“人类智能”优势。

从道德自律走向系统化制度治理

在华东师范大学教授姜雪峰看来，过去三年AI技术的演进速度远超预期，AI参与论文写作、产品开发乃至科研评审已成为不可逆转的趋势。专家们普遍认为，真正的挑战不在于是否使用AI，而在于如何系统性地降低其衍生风险。单纯依赖科研人员的道德自律或事后追责，已不足以应对现实挑战，亟需建立一套覆盖科研全流程、多主体协同参与的治理新机制。

清华大学教授、人工智能治理研究中心主任梁正指出，未来的治理不应“一刀切”，不同学科领域应有其适配的评价逻辑与治理框架。同时，科研评价也应从传统的量化指标导向，逐步转向对真实创新贡献与社会影响力的衡量。赵伟则从技术设施层面提出建议，应加强科研数据基础设施建设，推动形成统一、可机读的学术数据标准与开放协议，并探索利用区块链等可信技术，实现科研数据从产生到归档的全流程可追溯与可验证。

实践中，一些领先机构已开始行动。香港大学首席信息官兼图书馆馆长伍丽娟介绍，港大已着手建立AI项目风险登记与评估制度，并推动相关资源采购与使用流程的标准化，以应对技术快速迭代带来的治理挑战。

多位与会专家共同呼吁，必须尽快弥合“AI能力鸿沟”。这包括统筹建设国家级或区域级共享算力平台，避免科研资源向少数机构过度集中，造成新的不平等；同时，应在高等教育与科研训练中系统性地嵌入AI素养、伦理与应用能力培养课程，为未来科研人才奠定坚实基础。

爱思唯尔大中华区总裁李琳的总结切中要害：AI带来了前所未有的信息生产能力，同时也制造了海量的信息“噪音”。维护“科研之信”的本质，是一场对抗集体认知负荷的长期挑战。全球科研共同体需要持续探索新型同行评议机制，加强跨学科、跨机构的开放协作，共同建设一个更加透明、稳健且可信的科研生态系统。这场由AI驱动的变革刚刚拉开序幕，如何有效驾驭AI而非被其驾驭，将是整个科学界在未来必须共同解答的核心命题。