最近一次清理行动,微信关停了1200个账号,处理了超过1.3万条内容。这次与之前不同,平台把目标对准了用AI技术伪造声音和数字人形象的行为。有人用这个手段模仿财经评论员发布“内幕消息”,有人扮演企业家推销假冒保健品,最离谱的是有人盗用已故文化名人的声音诈骗用户。平台提到两个关键技术点:多模态特征比对和语音动态波动分析,用来识别真假面孔和说话时的细节动作。 这次清理行动中最突出的问题就是已故文化名人被模仿的情况。目前法律没有明确规定谁来管理数字遗产以及声音和肖像权能够继承多久,平台只能按照侵权或误导消费者的名义处理这些问题。 网上还有售价为299元的仿冒工具包,三分钟就能做出真人视频,还能调整中文口音。这些工具主要卖给小微商和本地流量贩子,使得AI造假变成了普通人也能操作的流水线工作。 微信这次处理得比较严格,但公开案例不多。朋友圈私密性高,举报难是一个原因。此外,国家最近讨论了《AI内容标识指南》,微信这次行动像是提前试水边界在哪里。 随着名字和声音都能变成商品出售,人格权似乎走到了新阶段的门槛前。这个问题引发了人们对于保护名气大的人是否更容易受保护的思考。