nclick="xtip.photoApp('jzpic',{index:'1'})" data-xphoto="jzpic" src="http://www.wetsq.com/zb_users/upload/2025/10/vdcybpzngvr.jpg" title="律师界炸锅！AI聊天机器人失控，噩梦成真！ 第1张" alt="律师界炸锅！AI聊天机器人失控，噩梦成真！ 第1张">
【编者按】AI席卷法律界，幻觉案例竟成律师噩梦！当ChatGPT撞上庄严法庭，一场科技与传统的激烈对撞正在上演。从加州到纽约，从资深律师到行业新秀，AI生成的虚假案例正在司法系统掀起惊涛骇浪。本文揭露的不仅是七旬老律师因AI幻觉当庭认错的尴尬场面，更折射出整个法律行业面临的科技伦理危机。当30%律所已拥抱AI工具，我们该如何在效率与真实之间找到平衡？法官怒罚万元、案件被驳回、律师遭处分...这些血淋淋的教训正在警告每个法律人：科技可以是助手，但绝不能成为大脑。看完这篇报道，你会重新思考AI在法律领域的边界究竟在哪里。
今年夏天，加州帕洛阿尔托一位执业近半个世纪的律师向奥克兰联邦法官承认，他在重要法庭文件中引用的法律案例实际上并不存在，这些案例似乎是人工智能“幻觉”的产物。
杰克·鲁索在法庭文件中将这次明显的AI造假事件称为他的“首次翻车现场”，并补充道：“我简直无地自容。”
作为计算机法律专家，鲁索发现自己正加入一个快速扩大的“翻车律师团”。当像ChatGPT这样火爆但容易出错的人工智能技术与严谨的法律程序相撞，越来越多的律师正在公众面前颜面尽失。
自2022年底旧金山OpenAI发布ChatGPT机器人以来，AI幻觉——即人工智能生成不准确或荒谬信息——已成为引发硅谷狂热的生成式AI的持续难题。在法律战场，随着律师们蜂拥使用AI技术，AI生成的错误正受到严格审查。愤怒的法官们不仅向纪律委员会举报，自2023年以来全美已有数十起案件处以最高3.1万美元的罚款，其中上个月南加州一桩案件更开出了加州纪录的1万美元罚单。
聊天机器人通过调用海量数据库，运用模式分析和复杂推测来响应用户指令。错误产生的原因多种多样，包括AI训练数据不足或有缺陷，以及AI的错误假设。这不仅影响律师，更坑害普通民众——就像去年谷歌AI建议用户吃石头，还在披萨酱里加胶水防止奶酪滑落。
鲁索向杰弗里·怀特法官表示，他愿为未核实文件真实性负全责，但解释称70多岁高龄时经历新冠长期康复，导致他将工作委派给助理时缺乏“完善的监督机制”。
“这博不到任何同情，”圣克拉拉大学网络法教授埃里克·戈德曼直言不讳，“每个律师都能编个苦情故事，但我不会买账。规则要求律师必须对提交的文件进行复核。”
法官在上个月的法庭命令中写道，鲁索这场AI梦游般的造假对他来说也是头回见识。怀特指出，鲁索违反联邦法院规定，未对其要求驳回合同纠纷案的动议进行充分核查。法官毫不留情地批评：“本院不得不将注意力从本案及其他案件的实质问题上转移来处理此事。”
怀特发布初步命令，要求鲁索承担对方部分律师费。鲁索向法官表示，他的Computerlaw集团律所已“采取措施整改并防止再犯”。鲁索拒绝接受本新闻机构采访。
根据巴黎HEC商学院高级研究员达米安·查洛汀编制的数据库，直到2023年中，律师因提交AI虚构案例而面临处罚还属新鲜事，但如今这类事件几乎每天都在发生，甚至连法官也牵涉其中。查洛汀正在全球追踪包含AI幻觉的法律文件。
“我认为事态仍在加速恶化，”查洛汀表示。
查洛汀称其数据库中收录了“数量惊人”的粗心大意、鲁莽行事或“纯粹水平堪忧”的律师。
五月，旧金山律师伊瓦娜·杜卡诺维奇在圣何塞联邦法院承认，她与瑞生律师事务所的同事犯下“令人难堪的无心之失”。在代表旧金山AI巨头Anthropic应对音乐版权官司时，他们提交了包含幻觉材料的文件。杜卡诺维奇——其律所简历将“人工智能”列为她的专业领域——将造假归咎于特定聊天机器人：她客户Anthropic的旗舰产品Claude.ai。
苏珊·范·凯伦法官命令将部分文件从法庭记录中删除。杜卡诺维奇及其律所似乎逃过了处罚，未回应置评请求。
查洛汀已发现113起美国案件涉及律师提交含幻觉材料的文件，其中多数为虚假案例引用，这些案件自2023年中以来都成为法院裁决对象。他认为许多AI造假的法律文件从未被发现，这可能影响案件结果。
戈德曼教授强调，法庭裁决可能带来“改变人生的后果”，涉及儿童监护权或残疾索赔等事项。
“某些案件关系重大，若有人扭曲法官决策，整个系统就会崩溃，”戈德曼警告。
不过他同时指出，AI仍可成为律师的有力工具，能发现人类可能忽略的信息，协助准备文件。“如果善用AI，它能帮助人们做得更好，”戈德曼说，“这正是推动全民使用的动力。”
全美最大律师组织美国律师协会4月发布的调查结果显示，律所使用AI的比例去年几乎翻了三倍，从2023年的11%升至30%，且ChatGPT是“各类规模律所的首选工具”。
戈德曼指出，罚款可能只是律师最轻微的担忧。法官可能将律师违规行为通报给执业许可机构，或驳回案件、拒绝关键文件，甚至以怀疑眼光审视律师在案件中的所有操作。客户可能提起渎职诉讼，而支付对方律师费的命令可能高达六位数。
查洛汀的数据库显示，法官已向多名律师发出警告或转介纪律机构，有时还会将文件部分或全部从法庭记录中清除，或判令支付对方费用。去年，加州联邦上诉法院驳回了一起上诉，称其“充满虚假陈述和捏造案例”，包括“两个根本不存在”的案例。
查洛汀预测他的数据库将持续膨胀。
“我并未看到数据如预期般减少——按理说现在所有人都该警醒了，”查洛汀坦言。
