两起跨越国界的恶性案件近日将人工智能的安全隐患推至舆论焦点。加拿大一起校园枪击案中，18岁枪手作案前数月内反复向大型语言模型描述暴力幻想，有关企业虽发现异常但未采取有效预警措施。韩国一起投毒案中，22岁女性嫌疑人通过查询致死药物配方和剂量组合，精准实施犯罪。两案件均反映出当前人工智能应用中存在的共同问题。 从技术层面看，现有的内容审核机制存在明显漏洞。加拿大案件中，相关企业虽然通过自动化系统识别了高风险对话内容，内部甚至组织员工讨论是否上报执法部门，但最终仅采取了账号封禁措施。这种做法说明了企业对"程序正义"的过度强调——严格按照用户协议执行处罚，却忽视了对现实危害的预防责任。企业的逻辑是，只要用户违反了平台规则，封号即可完成义务，至于用户线下是否会实施犯罪，则被认为超出了算法的判断范围。 从知识获取的角度看，人工智能大幅降低了危险信息的获取成本。过去，致死药物配方、毒物混合比例等专业知识存在天然的获取门槛，需要具备相应的医学或化学背景才能精准应用。而今，大型语言模型将这些知识整合成了易于理解的"执行方案"，使得缺乏专业素养的人也能获得精准的犯罪指导。韩国案件中，嫌疑人虽然收到了"可能导致死亡"的风险提示，但这个警告反而被理解为"方案可行"的确认，最终成为其预谋犯罪的依据。这表明，仅有的风险提示在面对有明确犯罪意图的使用者时，作用极其有限。 从社会影响看，这些案件反映出人工智能发展与社会治理体系之间的不匹配。一上，技术进步的速度远超法律和伦理框架的完善速度。另一方面，人工智能企业的社会责任意识与其掌握的技术能力不相称。在加拿大案件中，企业掌握了足以预警犯罪的信息，却因为缺乏明确的法律义务而选择了消极应对。这种态度虽然在现有法律框架下可能无可厚非，但从社会责任角度看，显然是不足的。 对此，专家和业界人士提出了多项改进建议。一是建立更加精细化的风险识别机制，不仅要识别单次的高风险内容，更要通过行为模式分析捕捉潜在的犯罪倾向。二是探索"延迟交付"或"强制风险提示"等新型防控手段，对极端敏感领域的查询进行特殊处理。三是在保护用户隐私的前提下，建立人工智能企业与执法部门、社会保障机构的联动机制，形成"绿色通道"，使得高风险信息能够及时预警。四是完善相关法律框架，明确人工智能企业在内容审核、风险预警中的法律责任和义务边界。 从国际层面看，多个国家和地区已开始推进人工智能安全治理的制度化建设。欧盟《人工智能法案》对高风险应用场景进行了分类管理，美国、英国等国也在制定相应的监管框架。这些举措表明，人工智能的安全治理已从企业自律阶段向制度规范阶段转变。未来，建立跨国协调机制、统一安全标准、共享风险信息，将成为全球人工智能治理的重要方向。
当技术的演进速度超越社会规则的更新节奏，每一次重大案件都应成为制度完善的契机；这两起跨国案件警示我们：在拥抱技术创新的同时，更需要建立与之匹配的治理体系。正如网络安全专家所言："真正的技术进步，永远建立在安全保障的基石之上。"这不仅是技术伦理的必然要求，更是人类社会可持续发展的共同命题。