今年2月12日,豆包公司的Seedance2.0系统正式在所有设备上线了,它对AI生成的内容进行了严格限制,不允许随便搞明星的脸。自从有了这事,不少平台都开始把“AI换脸艺人”这种行为给管住了。薛凯琪、王劲松和温峥嵘这几位演员,之前也都吐槽过用AI做虚假代言的事儿。 到了2月13日,这个系统就在豆包的主App上全面生效了。它把关键词拦截、人脸比对还有内容审核这三道关卡全给用上了,只要它发现是违禁的内容,立马就拒绝生成。 3月20日,关于AI短剧用了杨紫的脸这事儿,一下子就上了热搜。有网友说那个短剧叫《重生后,我成了娘亲的守护神》,在第14集开头好像用了杨紫的脸。当天杨紫工作室就发了声:有人在没授权的情况下,用AI换脸或者深度合成技术,乱做视频给大伙儿看,这严重侵犯了杨紫的权益。工作室已经找律师把证据给拿下来了,肯定要通过法律手段把事情闹到底。现在那个有问题的视频已经被下架了。 同一天,迪丽热巴告那个播短剧的平台用AI换脸赚钱的事也有了说法。北京互联网法院说,那个短剧的制作方用了深度合成技术,弄出了个跟某个演员长得特别像的形象,侵害了人家的肖像权;而播出方也没好好检查,也得负一部分责任。那个演员发现被告A公司弄的短剧中,用AI把他的脸贴到了角色脸上去了,这在网上吵得挺凶的,好多网友还以为他真去演那个戏了呢。 法院查出来的结果显示,这个短剧一共44集,总共差不多90分钟。有两个片段是用AI换脸弄的,换出来的人跟原告长得很像。网上还有“短剧疑似用AI换脸某演员”的话题呢。A公司倒是拿了份创作过程说明出来,但是没按法庭要求把换脸的过程复现出来,证据根本没法用。 法官觉得根据民法典的规定,人都有肖像权。这肖像的辨识度不需要跟本人一模一样,只要一般人或者特定的一群人能认出来是哪个人就行。比对下来发现那个片段里的人在脸蛋轮廓、五官这些方面跟原告很像,大伙儿都能把它认出来是原告的样子。A公司作为专业做片子的公司,应该知道这里面的风险在哪儿。它没经过人家允许就发出来了,肯定是侵犯了肖像权的。B公司看着剧这么短、那个形象又挺有名气的情况下,没好好审查就把它发上去了,这也是错的。 最后法院判了A公司和B公司各自在运营的账号上给原告写道歉信还赔钱。双方都没上诉,一审判决书已经生效了。 回头再看看这整个事儿,豆包把Seedance2.0的规则改得这么严之后,确实堵住了不少漏洞。这也算是一个不错的开始吧。