微信又在搞事了,这回直接给那些冒充明星的AI账号下了狠手,把1.3万条假消息全都给清空了,还封了1200个账号。这帮“李鬼”,用AI生成的语音和头像来冒充张学友、刘德华这些大明星,看起来特别像本人,搞得大家分分钟被带节奏。这些账号通常打着独家爆料或者明星直播的旗号违规引流,甚至卖假货。 接到用户举报后,微信马上启动了专项治理行动。技术模型24小时盯着那些头像和语音包,发现不对劲的立马揪出来;人工再结合反馈去追根溯源;发现一起就立马处理一起。这一个星期里,一共处理了1.3万多条违规内容和1200多个账号,平均一天能清理1800多条假信息,力度确实大。 看看这几类典型案例就知道有多可怕:语音克隆把歌手的声音模仿得惟妙惟肖,配上演唱会海报让人点进去买门票;图像换脸把名人旧照PS成最新自拍骗点赞;视频合成把AI生成的祝福剪进广告里逃避审核。这些账号一开始先小范围试探一下,看能不能火起来,一旦发现有效就马上扩大规模。 光靠短期打压肯定不行,微信这次把治理思路升级成了“识别+溯源+信用”三位一体。技术上把图文声全模态的相似度阈值调低到95%,哪怕加个微表情都能被识破;流程上建立绿色通道平均18分钟就能处置完;信用端对屡次违规的账号实行永久封禁加域名禁用。微信还说要联合权威机构弄个AI生成内容标识体系给用户看。 最后给大家支几招:看头像不如看签名(官方认证蓝V才是真的);听声音要注意语境(“明星”突然换语气多半是合成的);遇到不明链接先去官方渠道核实(别让好奇心替骗子买单)。大家发现可疑内容可以直接去小程序搜索“微信安全中心”投诉举报。 平台治理不是一时半会儿能搞定的事儿。微信表示要保持高压态势并呼吁大家一起参与:名人可以开通官方认证绿通;品牌方投放前要做查重;用户要养成先核实再分享的习惯。只有技术、规则和公众意识拧成一股绳,才能让AI真正服务于真实表达而不是变成骗人的工具。