近年来，上海和北京法院都碰到了用AI编造虚假案例的事，这事太离谱了。最近在北京市通州区人民法院审理的一个商事纠纷，把法律界给惊动了。原告代理人提交了所谓的“上海市第一中级人民法院（2022）沪01民终12345号案件”作为参考案例，结果被法院查明是假的。法官郑吉喆当场核对发现，这个案件号实际上是民间借贷纠纷，跟这个案子毫无关系。更离谱的是，原告代理人竟然承认是用AI模型编造的内容，把它复制提交给法庭了。北京法院也没有含糊，直接把这份伪造的材料给排除掉了。而且他们还在判决文书里狠狠批评了原告代理人的行为。法院明确表示：律师有义务确保提交材料的真实性和准确性。 这事儿闹得很大，判决生效后不久，也就是2025年12月，这个案例就被最高人民法院收录进案例库了。最高法的人是这么说的：在民事诉讼中必须诚信为本。要是有人把AI搞出来的虚假案例拿来用，不管轻重都得付出代价。轻则批评教育一下；重则根据民事诉讼法第一百一十四条第一款处理。 现在AI在法律检索和文书起草这些方面用得很广，但AI也会出现幻觉效应。生成出来的法条、案例甚至裁判观点都有可能是虚构的、虚假的。要是律师信了这些没核实过的信息，不仅会损害当事人利益，还会动摇司法的公信力基础。 通州区人民法院这次判决就告诉我们：在技术浪潮中要守住证据真实这个底线。郑吉喆法官也表示，法院以后要更严格审查材料，结合专业知识和信息技术手段进行甄别和防范虚假信息进入司法程序。 这也是个典型案例吧？把虚构案例当成证据提交给法庭了。法律职业共同体得记住教训：技术工具不能替代专业判断和职业伦理。这次判决也是给大家提个醒儿：在数字化转型过程中一定要牢记这一点。以后北京法院肯定会完善规则和技术监管两手抓，确保人工智能在法治轨道上发挥建设性作用。