近日，北京通州区法院审理的一起股权代持纠纷案引发法律界广泛关注。这起看似常规的民商事案件，却因一份“AI生成的虚假案例”成为司法实践中AI幻觉风险的典型例证，为法律从业者敲响了警钟。
01
案情回溯
一份“完美案例”背后的虚假陷阱
该案中，原告代理人为佐证己方的主张，借助 AI 工具检索相关案例，AI系统向原告代理人输出两份裁判文书信息，其中一份案号为（2022）沪01民终12345号的上海一中院案例，在事实细节与争议焦点与该案高度契合，裁判结论更是直接利好原告方。 这种“完美适配”使得原告代理人未加核验便直接将此案例复制粘贴至书面代理意见，并提交法庭。
承办法官在审理过程中发现， “12345”编号过于规整，随机产生警觉。通过中国裁判文书网核查，结果显示该案号对应案件实为民间借贷纠纷， 除案号真实外，案件的核心事实、法律关系等与股权代持毫无关联，完全是AI“无中生有”编造的虚假案例。最终，法官未采信该代理意见，并在判决书中对代理人予以点名批评，明确强调律师对提交法庭的案例、法条负有核查义务，严禁放任AI生成虚假信息扰乱司法秩序。
02
核心启示
AI幻觉的风险本质与责任边界
1.专业场景下AI幻觉的高发性不可忽
根据清华大学新闻与传播学院媒体研究中心团队发布的《2025年DeepSeek与AI幻觉研究报告》，针对多类AI模型的评测揭示了 AI幻觉的高发性，尤其在专业化场景中风险更为突出：在通用模仿普通用户使用场景提示语测试中，DeepSeekV3、DeepSeekR1 的幻觉率分别为 2%、3%；而在更关键的事实性测试（如覆盖健康、科学、历史、法律等多领域）中，幻觉率大幅攀升—— DeepSeekV3高达29.67%，DeepSeekR1为22.33%，Qianwen2.5-Max达27.67%，表现相对较好的豆包也有19%。这些数据充分表明，AI幻觉绝非个别偶然现象。在司法实践这种需要精准事实支撑的专业场景中，如此高比例的幻觉率，如不加以核验甄别，很有可能对案件审理造成实质性影响，更可能损害司法公信力。
2.技术工具不能豁免律师的执业责任
根据《民事诉讼法》及相关法律法规的规定，律师对提交法庭的材料、意见负有“真实性、准确性”的法定义务。通州法院该案中代理人因未核验 AI生成的虚假案例而受到批评，正是未履行该义务的直接后果。
律师在办案过程中若对AI生成结果不加以核查，不仅可能扰乱司法秩序、影响案件公正审理，更会损害自身的职业声誉与客户利益。唯有确保每一个案例、每一条法条、每一个事实细节都经得起推敲，才能避免 AI 幻觉扰乱司法秩序，守住律师执业的职业底线与法律尊严。
03
破局之道
构建人机协同的合规执业模式
尽管存在风险，但我们无需因噎废食，AI技术带来的效率提升有目共睹，关键在于明确人机协同的边界与规则。
1.让AI聚焦基础辅助功能
在案例检索中，AI可快速筛选出符合“年份、法院层级、案由、裁判要点”等限定条件的初步结果，快速梳理同类案件的裁判倾向，帮助律师从海量文书中解放出来，避免重复性劳动，大幅提升基础工作效率。
2.律师坚守核心专业判断
AI将律师从重复性、事务性工作中解放后，律师能将更多精力聚焦于核心专业判断，如分析个案特殊性、制定针对性诉讼策略、与客户深度沟通并提示潜在风险——这些恰恰是AI无法替代律师的核心价值。
3.建立全流程核查机制
本质上，应当让AI工具仅承担“基础筛选与初步输出”的角色，而律师则专注于“专业判断与风险把控”的核心职能，对AI生成所有内容实行“先核验、后使用”，最终实现执业效率与服务质量的双重提升。
04
结语
AI技术作为新兴工具，正在深刻改变法律行业的传统工作模式，但技术创新始终不能突破专业责任的底线。通州法院这一案例警示我们，技术应用必须建立在专业责任的基础上，唯有以负责任的态度使用AI等新技术，建立严格的核查机制，才能使其真正成为提升律师执业效率、强化专业能力的重要助力，成为律师执业的可靠“放大器”。
在法律与科技融合的大趋势下，保持专业警惕性与技术包容性的平衡，是每一位法律从业者需要持续修习的课题。
作者介绍
孙剑彬
上海道朋律师事务所
合伙人
作者介绍
张愿
上海道朋律师事务所
律师
张愿律师的主要业务方向为民商事诉讼、公司治理与合规以及其他非诉法律服务。从事法律工作至今参与处理的案件类型包括买卖合同纠纷、民间借贷纠纷、劳动纠纷、婚姻家事纠纷等，积累了丰富的诉讼实务经验。此外，张愿律师也为多家企业提供法律顾问服务，包括公司业务合规性审查、股权架构与交易等。
END
