近期,利用生成式技术对经典作品、历史人物及特定职业形象进行“魔改”的短视频在网络平台上滋生传播,部分内容以低俗化、戏谑化手法歪曲作品内涵,或触及涉政涉军等敏感边界,扰乱网络传播秩序。
为整治相关乱象,国家广播电视总局自2026年1月1日起在全国范围开展为期一个月的专项治理行动,聚焦“AI魔改”视频的识别、处置与责任落实,释放从严监管信号。
问题层面看,“AI魔改”并非单纯的创作风格问题,其突出风险集中在三类场景:一是对军警制服、军人形象等进行不当演绎,容易造成不良示范与价值导向偏差;二是对权威叙事、敏感题材进行恶意拼接或改写,可能引发误读甚至被利用进行不当传播;三是对《西游记》等经典IP以及历史人物形象进行偏离原著的再加工,过度娱乐化、低俗化表达可能冲击文化认同与作品传播生态。
从原因分析,首先是技术门槛降低带来的生产端扩张。
相关工具使用便捷、成本低,使得个体创作者能够在短时间内批量生成内容,客观上放大了审核与治理压力。
其次,流量驱动强化了“猎奇—传播—变现”的链条,一些账号以夸张、反差、擦边内容博取点击,形成短期收益诱导。
再次,部分内容存在“以搞笑之名行失范之实”的模糊空间,叠加AI生成内容的可变形、可拼接特点,给平台识别与追责带来难度。
与此同时,AI生成内容的标识和可追溯体系仍需完善,导致部分违规内容更易在不同平台、不同账号间迁移扩散。
影响方面,“AI魔改”短视频的危害具有叠加效应:对青少年群体而言,低俗化、失真化表达容易造成认知偏差与模仿风险;对文化传播而言,经典作品被碎片化、戏谑化处理,可能削弱其应有的审美价值与精神内核;对网络生态而言,涉敏题材一旦被不当生成和传播,易引发舆论波动,增加社会治理成本,也损害平台公信力与行业健康发展。
在对策举措上,百度发布“AI魔改”视频专项治理公告(第一期),提出通过技术与管理双轮驱动加大整治力度。
其一,围绕经典内容风险加强精准打击,构建图像、视频与文本协同识别能力,重点对军警制服、敏感人物及经典IP形象等核心要素进行识别比对,并结合画面生成特征检测,对显性违规内容进行拦截处置。
其二,专项建设涉政防控模型,聚焦内容生产与输入环节,持续优化语义识别、意图预判能力,对恶意改写权威叙事、经典作品及敏感题材的行为进行前置识别与拦截,强调“把风险挡在生成之前”。
其三,强化AI内容源头识别与标识,落实生成式技术相关管理要求,对AI生成及恶意“魔改”内容特征进行识别并精准标记,提升内容可追溯、可监管能力,推动形成“可识别、可定位、可追责”的治理闭环。
治理成效方面,百度表示截至目前平台围绕“AI魔改”经典IP及涉政涉军等重点风险场景,累计巡查清理违规视频284条,关闭账号2个,并通报了若干典型案例:有账号以AI生成方式对军人形象进行不当、低俗化演绎,被下架并关闭账号;有账号通过AI对《西游记》经典人物形象进行不当改编,存在偏离原著形象和作品内涵情况,被下架处置;另有账号以AI方式对历史人物进行不当改编,同样被及时下架。
相关处置体现出平台在重点场景治理上的“发现即处置、违规即追责”导向。
前景判断上,随着监管行动推进与平台治理能力升级,“AI魔改”短视频的粗放式增长有望得到遏制,但治理不会止于阶段性清理。
下一步关键在于三方面协同:其一,监管规则进一步细化与落地,推动行业形成统一的生成内容标识、审核与处置规范;其二,平台在模型能力、数据治理、人工复核与申诉机制上持续迭代,提升对隐性违规与变体内容的识别效率;其三,创作者与机构加强合规意识,推动“技术创新”与“价值底线”同向而行,让二次创作回归健康审美与合理边界。
只有以制度约束、技术护栏与社会共治共同发力,才能真正实现网络空间清朗有序。
网络空间治理是一项长期系统工程,既需要平台履行主体责任,也离不开创作者自律与公众监督。
此次专项治理行动展现了头部企业维护网络清朗环境的决心,但其成效仍有待持续观察。
如何在技术创新与内容规范之间寻求平衡,将成为未来网络视听行业发展的重要课题。
只有多方协同发力,才能构建真正健康、有序的数字文化生态。