金·卡戴珊AI诈骗警示：法律行业需防范技术风险

2025年11月8日，金·卡戴珊在近期访谈中分享了为成为律师而刻苦学习的历程，并坦言因过度依赖人工智能工具导致法律资格考试失利。她将这段与AI助手的关系形容为“毒瘾般的存在”。

卡戴珊透露，备考期间她习惯将疑难题目拍照发送给AI，期待获得精准解答。现实却事与愿违：“每次遇到难题就求助它，结果它总在信口开河，害我考试没过关。有次气得直接对着手机怒吼‘这都是你害的！’”

她坦言，明知对方只是程序代码，仍忍不住与之争辩。有时会质问道：“你又要害我挂科了，难道连一点责任感都没有吗？”而系统竟回应：“这只是教你要相信自己的直觉。”这般答非所问令她啼笑皆非。

此类现象折射出当前大型语言模型存在的普遍缺陷——“幻觉效应”。这类系统并非基于逻辑判断输出答案，而是通过海量数据预测最可能出现的内容，因此容易生成看似合理实则错误的信息。尤其在法律、医疗等对准确性要求极高的领域，这种缺陷可能导致严重后果。

此前已有执业律师因在法律文书中引用AI虚构的判例而受处分。今年9月，美国加州一名律师因提交包含虚假引文的上诉材料被法院处以1万美元罚款。调查显示，这些案例根本不存在，实为系统自动生成的虚构内容。

业内人士指出，随着AI在专业领域应用日益广泛，从业者必须提高对其局限性的认知。目前已有建议提出，对因误用AI导致失误的律师实施强制性培训，以减少类似事件发生。更令人担忧的是，虚假判例不仅出现在律师提交的文件中，甚至有迹象表明个别司法判决书也可能引用了未经核实的AI生成内容，说明这一问题的影响范围正在扩大。

面对技术的快速演进，如何在提升效率的同时确保信息真实可靠，已成为法律行业亟待解决的课题。