英国警方紧急叫停AI起草法庭陈述 风险太高恐酿错

据《金融时报》6月5日报道，提出这一要求的是英国警方AI工作负责人亚历克斯·默里（Alex Murray）。他同时担任英国国家犯罪调查局主管以及全国警察局长委员会（NPCC）的AI事务负责人。值得关注的是，英国今年1月刚刚宣布投入1.15亿英镑建设全国警务AI中心，旨在推动英格兰和威尔士43支警队更统一地应用AI技术。而此次叫停，恰恰发生在同一批推进者手中——这本身就说明，AI在司法场景中的风险边界远比想象中更为敏感。

法庭材料不能仅靠“提交前核查”

此次被叫停的，是那些会直接进入刑事司法流程的材料——包括法庭陈述和案件相关文件。从警员角度看，AI撰写报告确实省时省力；但对证人、被告和检察机关而言，问题在于这些文字可能构成判断案件事实和程序合规的基础。

如果AI将不存在的事实、混淆的时间线或错误的摘要写入材料，后续人员再基于这份材料整理案情、制作证据说明或提交法院，错误就不再只是“写错一句话”，而是可能沿着整个办案链条扩散。所谓“核查AI输出”，在这种场景下很难靠一句提示解决：核查者究竟该核查每个事实、每条引用，还是只判断文字是否通顺？如果答案是全部重做一遍，那么AI节省的时间就会被彻底抵消。

英国皇家检察署（CPS）已发布AI伦理声明，强调AI工具必须在人工监督下使用，并特别重视公平、透明和责任归属。但警方一线文书一旦进入刑事诉讼，责任边界比普通办公场景敏感得多：材料由谁撰写、由谁核查、错误由谁承担，这些都需要留下清晰的记录。

今年1月的虚构球赛早已敲响警钟

英国警方对AI文书风险变得谨慎，并非毫无预兆。今年1月，西米德兰兹警察局前局长克雷格·吉尔德福德（Craig Guildford）因一份包含AI错误的情报材料，向英国议会内政事务特别委员会道歉。

这份材料曾提到，以色列马卡比特拉维夫足球俱乐部（Maccabi Tel Aviv）的球迷与英超西汉姆联队发生过冲突——但相关比赛根本不存在。《卫报》报道称，吉尔德福德承认，这一错误源于警方使用微软Copilot时产生的虚构内容。

这件事暴露出的问题是：当AI生成内容被放进正式执法或公共决策文件里，外部读者很难从文字表面判断哪些内容经过原始核实，哪些只是模型生成后的二次转述。到了法庭材料环节，这种不透明性会直接影响当事人的权利和案件的可信度。

AI警务推进者率先撤回最敏感环节

英国政府今年1月宣布的警务AI中心，目标是加快建立统一测试、培训和管理机制。NPCC当时称，这笔1.15亿英镑的投入将帮助警方更快破案，并预计每年释放约600万小时警力工时——相当于约3000名全职警员的工作量。

因此，这次叫停更像是在给AI警务划定边界：AI可以先用于风险较低、可回溯、易复核的后台工作，比如资料脱敏、非紧急报警初筛、内部信息整理；但法庭证词和刑事司法文件属于高风险环节，不能仅靠一句“人工最终负责”来兜底。

如果你是案件证人、报案人、嫌疑人或被告，你面对的陈述材料应当来自可追责的人，而不是一套事后难以还原生成过程的AI文本。警方节省撰写报告的时间固然重要，但不能以降低司法材料可信度为代价。

英国这次叫停也不会是孤例。过去两年，美国、加拿大、澳大利亚等地已陆续出现律师引用AI虚构判例、法院发布AI使用指引的案例。现在风险从律师提交文件，推进到了警方底层案卷材料。AI进入司法系统的真正难点，不在文本生成质量，而在于每一句可能影响他人权利的表述，能否被核实、追溯并归属责任。