最高法厘清AI法律责任边界 在发展中规范新技术应用

问题:新技术广泛落地带来新的纠纷类型,法律责任如何划分成为社会关注焦点。最高人民法院工作报告总结年度审判工作时,点名提到一起由“人工智能幻觉”引发的侵权纠纷:某用户使用有关服务时,系统以较为肯定的语气输出错误信息;用户指出错误后,系统仍坚持“信息正确”,并自动生成“内容有误赔偿10万元”的表述。用户据此起诉,要求运营方承担赔偿责任。杭州互联网法院最终驳回其索赔请求。该案被视为对新技术应用中责任认定的一次重要司法回应。 原因:争议集中在两点——其一,“系统承诺”是否属于具有法律效力的意思表示;其二,运营方是否存在过错。最高法相关负责人指出,在现行法律框架下,人工智能模型不是我国法律规定的民事主体,不具备民事行为能力,不能独立作出有效承诺,也不能作为责任主体直接承担民事责任。至于运营方是否担责,关键在于是否违反合理注意义务、是否存在过错。本案中,平台在产品界面提示“生成内容仅供参考”等风险告知,并采取必要措施提升内容准确性,法院据此认定其已尽到合理注意义务。同时,案件也未能证明错误信息给原告造成实际损失,责任构成要件不完整,因此判令运营方不担责。 影响:该裁判发出明确信号——司法并不因技术“出错”就当然追责,而是以可预期的规则划定责任边界,推动技术应用在规范中发展。对企业而言,判决有助于稳定创新预期:只要履行必要的提示、审核与风险控制等义务,不应因技术局限导致的非过错结果承担无边界责任。对用户而言,裁判也提示应将新技术视为工具,注意识别“生成内容”的不确定性,不宜将系统输出直接等同于权威结论或合同承诺。更重要的是,责任边界更清晰后,有望减少因责任不明引发的争议扩散,也促使平台在合规框架内持续改进产品与服务。 对策:最高法在解读中强调“在发展中规范、在规范中发展”,既为创新留出合理空间,也对违法侵权保持严格尺度。一上,司法实践将更关注平台是否建立清晰提示机制、是否采取技术与管理措施降低错误风险、是否对可能造成损害的场景设置必要防护,以“过错”为核心校准责任分配。另一方面,对故意侵权、恶意攫取技术成果等行为,将依法从严惩处。工作报告提到的一起数控机床技术秘密侵权案中,人民法院对恶意侵权人及相关公司判令承担三倍惩罚性赔偿,合计金额达3.8亿元,体现出对高端制造核心技术的有力司法保护。两相对照,既展现对创新的包容审慎,也传递对侵权行为的明确态度。 前景:随着生成式技术、智能网联等应用加速进入生产生活,类似纠纷可能仍会增加。可以预期,未来裁判规则将更强调可验证的风险告知、可追溯的日志留存、可审计的安全治理,并对特定高风险场景提出更有针对性的注意义务。在智能辅助驾驶等领域,司法也将继续厘清“技术提供者责任”与“使用者义务”的边界,既避免把技术工具简单当作“自动承担责任的主体”,也防止以技术之名转嫁法定义务。通过个案积累规则、以规则引导合规,法律与技术有望形成更稳定的良性互动。

在科技创新与法律规制的长期张力中,最高法通过个案裁判传递出清晰信号:既为技术迭代留出空间,也为权益保护守住底线。这种动态平衡不仅关系到个案公正,也将影响数字时代的法治能力与治理水平。技术不断向前,司法的标尺则持续衡量发展与安全之间的边界与分寸。