arXiv严惩AI生成内容不核查行为 违规作者将被禁一年并连坐

全球学术圈的研究者们，是时候关注一下了：预印本平台 arXiv 刚刚更新了它的游戏规则。

今天凌晨，俄勒冈州立大学荣休杰出教授、arXiv 计算机科学分区 CoRR 的机器学习板块首席版主 Thomas G. Dietterich 发布了一项重要声明。核心意思很明确：根据平台的行为准则，论文一旦署名，每位作者就必须对内容的全部细节承担完全责任，无论这些内容是如何产生的。

这意味着，如果生成式 AI 工具在论文中留下了不当言论、抄袭内容、偏见、事实错误、不实引用或任何误导性信息，那么板子最终都会打在作者身上。平台近期已经明确了针对这类情况的处罚措施。

更关键的是，如果一篇投稿中存在“无可辩驳的证据”表明，作者根本没有核查大语言模型（LLM）生成的结果，那么这篇论文的整体可信度将直接归零。什么样的证据算“无可辩驳”呢？比如，文中间出现了完全虚构的参考文献；或者，留下了诸如“这是200字的摘要，您需要我做任何修改吗？”、“此表中的数据为示意性质，请填入实验的实际数据”这类典型的 AI 元注释。

一旦踩中这条红线，处罚相当严厉：涉事作者将被禁止向 arXiv 投稿一年。期满后若想再次投稿，其论文必须先被一个声誉良好的同行评审期刊或会议接收才行。

新规一出，社区反响热烈。支持者拍手称快，直言“非常好，请坚决执行。”

当然，质疑的声音也同样存在。有人担心政策执行会因人而异：“这项政策恐怕会根据机构特权和个人的知名度选择性执行，并最终会沦为一种工具，用来让没有背景关系的人闭嘴，而不是促进更良性的科学讨论。”

对于这种关于偏见的担忧，Dietterich 并没有回避。他承认审核流程中可能存在偏见，并透露他们会使用标准的大语言模型检测算法来筛选需要审查的论文，同时审核人员本身也可能带有主观倾向。他表态称，非常乐意与研究者合作，共同评估这项工作中可能存在的偏见与实际成效。

另一些质疑则指向了技术时效性。有人觉得，新规短期内或许有用，但AI技术日新月异，“一年之后这些核查手段和标准是否还能奏效？既然如此，禁投一年的处罚又有什么意义呢？为什么不能直接打上‘AI生成’的标签，到此为止就好？”

此外，关于责任连带的问题也被提了出来。“你如何判断作者是否同意署名？如果某人X写了一篇AI生成的垃圾论文，在我不知情的情况下把我的名字加上去，然后上传到arXiv，我也会被连带禁投吗？反过来，如果我和某人X一起写了AI垃圾论文，他投稿到arXiv后被禁了，我能不能假装对这个项目毫不知情来逃避处罚？”

对此，社区里出现了建设性的提议：“看起来真正的问题在于有人在自己不知情的情况下被强行署了名。解决方案似乎是：除非你接受了对这篇论文的邀请，而且你在接受前可以先行审阅，否则你的名字就不会出现在作者列表里。”

无论如何，arXiv 此次新规的指向非常清晰：它将“使用AI辅助写作”的责任边界划分得前所未有的清楚——责任完全由作者承担。

其实，这并非学术界首次对AI使用划出红线。一些顶级AI会议早已出台了类似规定：

• ICLR 2026：惩罚不主动披露滥用AI的论文作者；对于违规使用AI审稿的评审人，他们自己投稿的论文也可能被直接拒稿。
• ICML 2026：严禁将LLM列为作者，并严禁任何形式的隐藏提示词注入。
• CVPR 2025：明令在任何审稿阶段都不得使用LLM撰写或翻译评审意见。若审稿人被认定高度不负责任（如提交AI生成的意见），其自己投稿的论文也可能被直接拒绝。
• EMNLP 2025：要求被接收的论文必须附带一份“负责任NLP检查清单”。

这一系列动作传递出一个明确的信号：学术界对生成式AI的治理，已经从早期的广泛讨论，正式进入了“设立红线、明确惩罚”的实操阶段。研究者们在使用这些强大工具时，需要更加审慎了。