随着生成式人工智能技术的快速发展和广泛应用，AI生成内容丰富网络生态的同时，也带来了新的治理挑战；近期，部分网络账号利用AI技术生成虚假不实信息——不按规定添加AI标识——借此欺骗误导公众、破坏网络生态，引发社会关注。网信部门对此采取了坚决行动，对违规账号进行了大规模处置。 问题表现多样且危害突出。一类账号通过发布未标注AI生成标识的虚假视频博取流量。微博账号"澄馫"、快手账号"玲子爱狗狗"等发布狗在高铁站救下婴儿、狗拆炸弹救人等虚构感人故事，利用公众的同情心和好奇心进行恶意引流。另一类账号则利用AI换脸、声音克隆等技术冒充公众人物。微信账号"浮萍9419"、微博账号"乘风已归来"等假冒运动员、演员、主持人等知名人士发布不实言论，或未经授权售卖AI生成的公众人物"送祝福"视频从中牟利，侵犯了被冒充者的肖像权和名誉权。 更为严重的是，部分账号利用AI技术编造社会事件，制造恐慌。抖音账号"巷子里的鱼"等发布虚假火灾现场图片和视频，恶意炒作灾难事件，混淆视听，扰乱公共秩序，造成了恶劣的社会影响。同时，一些账号借AI技术制作低俗、暴力、惊悚内容，对未成年人造成身心伤害。哔哩哔哩账号"真难我知道"等魔改未成年人喜爱的动画角色，制作包含血腥暴力元素的视频，宣扬不良价值观。 需要指出，还有账号专门从事去除AI标识的"黑产"活动。小红书账号"浪淘达人"等分享去除AI标识的教程和软件，淘宝、闲鱼、拼多多等电商平台上的有关店铺公然售卖去标识工具和服务，形成了完整的违法产业链，更加剧了问题的严重性。 这些违规行为的根本原因在于部分网络账号为追求流量和利益，无视平台规则和法律规范，滥用AI技术。同时，AI生成内容的逼真度不断提高，使得虚假信息更具迷惑性，增加了公众辨别的难度。此外，部分平台的监管力度不足，对违规内容的审核把关不严，也为违法行为提供了可乘之机。 网信部门的集中整治行动反映了对网络生态的坚决维护。此次处置涉及微博、快手、抖音、哔哩哔哩、微信、小红书、百度等多个主流平台，处置账号数量之多、涉及范围之广，充分说明问题的普遍性。清理违规信息54.3万余条，表明违规内容的数量庞大，治理任务艰巨。这些措施对于遏制AI滥用乱象、保护公众知情权、维护网络秩序至关重要。 从长远看，规范AI生成内容的使用需要多上的努力。一方面，网络平台应当建立健全AI内容审核机制，对生成式内容进行严格把关，确保AI标识的规范添加。另一方面，内容创作者应当主动承担社会责任，按照相关规定为AI生成内容添加明确标识，避免误导公众。同时，相关法律法规需要改进，为AI治理提供更加明确的法律依据。此外，提升公众的媒介素养和辨别能力，帮助用户识别虚假信息，也是重要的长期课题。 网信部门表示，将对无AI标识的虚假不实信息保持高压严管态势，发现即处置，严厉打击违规行为。该态度表明，网络治理部门对于维护网络生态的决心是坚定的，对于违规行为的打击是持续的。
技术发展不能成为造假的借口。节假日期间更需坚守真实底线：创作者要如实标注、尊重事实；平台和监管部门应优化规则、提升治理水平；公众需保持警惕、核实信息。唯有各方共同努力，才能构建清朗可信的网络空间。