问题： 近期，一项由媒体分析机构开展的测试显示，多款主流人工智能系统识别伪造视频上存明显短板；研究人员使用先进视频生成工具制作了20条虚假视频进行测试——结果发现——部分系统的误判率超过90%。更值得关注的是，这些系统对由同一技术团队开发的生成工具产出的视频也难以识别，暴露出技术生态内部“自检”能力不足的问题。 原因： 研究认为，背后主要有三上技术原因：第一，生成式技术迭代速度快于检测技术，导致“生成在前、检测在后”的失衡；第二，现有水印体系不够可靠——可见水印容易被第三方工具清除，基于C2PA标准的不可见水印则可能因不同的保存方式而丢失元数据；第三，部分系统的判断机制存在缺口，面对合成内容时容易给出过度自信却错误的结论。 影响： 识别能力不足正在带来多重风险：一是可能被恶意利用，用来制作并传播虚假新闻，例如测试中出现的“巴基斯坦向伊朗交付战斗机”等虚构场景；二是削弱公众对数字内容的信任基础，此前已有虚假执法视频被误认为真实事件的案例；三是影响人工智能在新闻核实、内容审核等关键场景的落地与应用前景。 对策： 行业专家提出四点改进方向：在技术层面，研发更稳定的检测算法与更难篡改的水印方案；在标准层面，提升C2PA等协议的约束力与跨平台兼容性；在监管层面，探索对生成内容实行强制标注制度；在企业层面，减少技术割裂，推动生成与检测系统协同演进。测试中表现相对较好的系统普遍采用多模态交叉验证机制，可能成为后续优化的重要路径。 前景： 随着视频生成质量逼近影视级水平，真假识别的时间窗口正在缩短。研究预计，2025年前后全球或将迎来AI内容审核技术的集中突破。但专家也指出，仅靠技术无法彻底解决问题，还需要建立包含立法规范、平台责任与公众教育在内的综合治理体系。部分实验室已开始尝试区块链存证等新方案，但距离大规模应用仍需继续验证。
AI技术是一把双刃剑。生成能力持续提升的同时，识别与防护能力如果跟不上，就会成为新的风险源。这次调查提醒我们，关注创新进展的同时，更要补齐安全防护体系。只有让生成与识别、创新与安全形成平衡，AI才能更好服务社会，而不是助长虚假信息扩散。这既需要技术企业主动承担责任，也需要全社会共同参与。