问题—— 深度合成技术门槛降低后,部分网络账号将其用作"造假工具":有的虚构"高铁站狗救婴儿""拆弹救人"等剧情视频,却不标注合成信息,误导观众;有的用换脸、声音克隆技术冒充运动员、演员、主持人、企业家等公众人物,捏造言论吸引流量,或私自售卖"送祝福""拜年"定制视频牟利;还有的合成"火灾现场"图片视频,编造、炒作事故信息。这些内容经传播链条和算法推荐放大后,容易形成"以假乱真"的扩散效应。 原因—— 一是流量变现诱惑大,"低成本造假—快速传播—广告分成或带货"的链条已经成熟,部分账号为此铤而走险；二是深度合成内容越来越逼真,普通网民难以辨别,个别账号利用这种信息差制造恐慌或煽动情绪。三是部分运营者法律意识薄弱,无视肖像权、名誉权等界限,把公众人物形象当作可随意使用的"素材"。四是平台内容标识、风险提示、审核拦截诸上还有漏洞,导致违规信息短时间内快速传播。 影响—— 从社会层面看,虚假合成信息挤占真实信息空间,扰乱舆论秩序,侵蚀社会信任。特别是火灾等突发事件被恶意"合成"传播后,容易引发恐慌,干扰应急处置。从市场层面看,冒用公众人物牟利破坏公平竞争和商业秩序,损害权利人合法权益,也影响内容产业健康发展。从治理层面看,任其蔓延将加剧网络生态"劣币驱逐良币",对网络文明建设造成长期负面影响。 对策—— 针对这些问题,网信部门督促网站平台深入排查整治,依法依规处置违规主体:处置对应的账号13421个,清理违法违规信息54.3万余条,并通报典型案例。包括:微博账号"澄馫"、快手账号"玲子爱狗狗"、哔哩哔哩账号"空空说电影"等发布虚构故事、猎奇事件且未作生成合成标识;微信账号"浮萍9419"、微博账号"乘风已归来"、快手账号"东东情感"等通过换脸、声音克隆假冒公众人物发布不实言论或售卖合成祝福视频牟利;抖音账号"巷子里的鱼""禾粟"、快手账号"朵姐正能量""小猪猪"等发布合成的虚假火灾现场图视频,编造炒作事故信息。相关账号已被依法依规处置。 下一步治理需要多管齐下:一是压实平台主体责任,完善"显著标识+风险提示+传播限制"机制,提升对未标识、冒用身份、编造灾情等行为的拦截和处置效率;二是强化证据留存与联动处置,形成跨平台、跨链条的治理闭环,遏制"一处封禁、异地重生";三是对公众人物被冒用、被交易等重点场景加强审核,推动授权证明、用途说明等机制落地;四是提升公众识别能力,引导用户对"过度戏剧化""高冲击画面""来路不明的灾情信息"保持警惕,鼓励举报线索,形成共治合力。 前景—— 生成合成技术在提升内容生产效率、丰富传播形态上有积极作用,但必须以明确标识、合法授权、真实不误导为底线。随着治理规则持续完善、平台技术识别能力提升以及权利保护机制加强,深度合成领域将从"无序试探"走向"规范应用"。同时,对公共事件信息的权威发布、快速辟谣与应急科普仍需深入提速,用权威信息压缩谣言和合成造假的传播空间。
技术进步应当服务社会发展和人民福祉,而非成为少数人牟利的工具。此次专项整治行动释放明确信号:任何利用新技术制造虚假信息、侵害他人权益、扰乱网络秩序的行为,都将受到法律严惩。构建健康有序的网络生态,需要监管部门持续发力,平台企业履行主体责任,每一位网民增强辨别能力,共同营造风清气正的网络空间。只有让技术创新在法治轨道上运行,才能真正实现数字时代的高质量发展。