网信部门集中整治AI生成虚假信息 依法处置违规账号超万个

近期,国家网信部门联合各大网络平台开展专项清理行动,重点整治利用技术手段合成的虚假信息问题。

此次行动共处置违规账号13421个,清理违法违规信息54.3万余条,体现了监管部门对网络乱象的高压严管态势。

此次清理的突出问题包括:一是部分账号利用合成技术编造虚假故事,如“狗在高铁站救下婴儿”“鳄鱼伤人”等猎奇情节,以博取流量;二是通过换脸、声音克隆等手段假冒公众人物,发布不实言论或售卖未经授权的“祝福视频”牟利;三是恶意炒作火灾等公共事件,发布虚假图片、视频,扰乱社会秩序;四是篡改未成年人喜爱的动画角色,传播低俗、暴力内容;五是提供去除合成标识的教程和工具,助长虚假信息传播。

此类行为不仅扰乱网络生态,还可能误导公众认知,甚至对社会稳定构成威胁。

尤其在涉及公共安全、名人言论及未成年人保护等领域,虚假信息的危害性更为突出。

专家指出,随着数字技术的发展,信息造假成本降低,部分账号为追求流量和商业利益,不惜突破法律和道德底线。

针对这一问题,网信部门采取“发现即处置”原则,督促平台落实主体责任,加强内容审核和技术筛查。

同时,呼吁广大创作者严格遵守相关规定,明确标注合成内容来源,避免误导公众。

未来,监管部门将持续完善法律法规,推动行业自律,并探索利用技术手段提升识别虚假信息的能力。

生成合成技术本身并非问题,关键在于使用是否守法合规、是否尊重事实与公共利益。

对无标识虚假信息的从严治理,既是对网络生态的及时修复,也是对社会信任体系的有效维护。

唯有让规则“长牙”、让责任“落地”、让标识“可见”,才能在技术快速演进中守住真实底线、价值底线与法治底线,共同营造风清气正的网络空间。