顶级律所承认破产文件涉AI幻觉 与诈骗网络案件相关引关注

人工智能被告上法庭

顶尖律所也“翻车”了。最近，苏利文·克伦威尔律师事务所向美国破产法院坦承，其提交的一份关键法律文件中，包含了由人工智能生成的错误——不仅有捏造的引文，甚至还有对现有判例的曲解。

免费的交易所推荐：

• 欧易交易所 >>>进入官网<<< >>>官方下载<<<
• 币安交易所 >>>进入官网<<< >>>官方下载<<<

“我们对此深感遗憾，”该所重组业务主管安德鲁·迪特德里希在致马丁·格伦法官的信中写道。他承认，文件中间出现了人工智能典型的“幻觉”现象，生成了虚构的法律权威并歪曲了真实的判例。

这封披露信函源自美国纽约南区破产法院的一桩案件。苏利文·克伦威尔律所当时代表的是英属维尔京群岛的法院指定清算人。问题出在4月9日提交的一份动议上，律所方面表示，在准备该文件时，其内部关于人工智能使用的规定并未被遵守。

案件本身涉及清算人向太子集团及其所有者陈志追讨索赔。检方指控陈志主导了一场针对全球受害者的大规模反诈活动，并试图追回据称与该活动相关的数十亿美元加密货币。陈志今年早些时候在柬埔寨被拘留，随后被遣返回中国。

清算人正通过美国《破产法》第15章的程序，寻求获得授权以代表债权人和所谓的受害者行事。在英属维尔京群岛注册的太子集团，其案件与美国当局指控的东南亚大规模欺诈活动相关联，并已获得英国和美国政府的相关批准。

根据更正后的文件，4月份提交的初版动议在多处错误引用了案例法，其中一些引证根本不支持其试图引用的论点，另一些则似乎完全是无中生有。目前，该律所已撤回了原动议，并提交了修订版本。

对手律师揪出28处错误

太子集团和陈志的袋里律师（来自Boies Schiller Flexner律师事务所）最先发现了这些纰漏。他们指出，文中引用的某些美国破产法典条文根本找不到出处，一些权威案例也被错误解读或张冠李戴。例如，有一处引用的案例实际上是另一个巡回上诉法院的判决。

被告方在另一份文件中称，原动议中至少有28处引文存在错误，其中还包括一些根本不存在的、被强加给法院的“陈述”。他们辩称，更正文件的时机对他们不利，因为修订版是在他们提交异议之后才提交的。据此，他们请求法院推迟原定的听证会和状态会议。

律所政策形同虚设？

苏利文·克伦威尔律所表示，其内部政策明确要求律师在使用人工智能工具前必须完成培训，并独立验证所有输出结果。

“在任何律师获得生成式人工智能工具的使用权限前，都必须完成两个必修培训模块，其完成情况会被跟踪和核实。”律所声明中写道，“培训反复强调人工智能‘幻觉’的风险，包括捏造案例引证、曲解权威和不准确引述。它明确指示律师‘不要轻信任何事，要核实一切’，并指出未能独立核实人工智能输出即构成违规。”

该律所称，在更广泛的审查中，还发现了其他文件中存在一些细微的文书起草问题，但将这些归咎于人为错误而非人工智能。至于最初起草问题动议的律师身份，律所并未透露。

法律界的“AI信任危机”在蔓延

这起事件无疑给法律界敲响了又一记警钟。随着各律师事务所竞相测试旨在提升研究和文书撰写效率的人工智能工具，此类由AI导致的法律失误正频频出现。近期，多个法院都已批准或批评了律师提交的、包含人工智能生成的捏造或不准确参考信息的文件。

在澳大利亚，甚至有一位律师因使用人工智能而影响了其作为出庭律师的执业能力。形势所迫，法学院已经开始将人工智能应用指导纳入课程，资深法官们也频频警告，滥用这项技术可能会损害诉讼的公正性。

与此同时，近期的一些司法裁决也开始探讨人工智能如何融入现有法律框架，例如使用此类工具进行的交流是否受律师-客户特权保护。另一方面，一些法院自身也在试点人工智能系统，以期协助管理日益繁重的工作量。这场效率与精准之间的平衡游戏，显然才刚刚开始。