2019年起，Deepfake等视频造假手段开始让公众警觉，而到了今年，AI生成图片与视频的技术迭代迅猛。我实验室的工程师小李曾直言，想让AI精准呈现人手的折痕和光影变化，比生成静态图像还难。这个过程中，NVIDIA的GPU芯片给了AI巨大助力，但每训练一次大模型，电费开支就要烧掉几百万美元。尽管有Stable Diffusion和Midjourney等产品不断进化，手指比例失调等问题依然难以根除。 记得那天我刷手机时，突然跳出一个推送。推送显示以色列总理内塔尼亚胡的视频里，右手多出一根手指。截图中手掌边上有一道拉长的影子，看起来像是第六根指头在招手。网友们立刻炸锅，评论区里充斥着“AI替身”、“他出事了”的留言。我一开始也被吓了一跳，赶紧点开原视频看完整版。原来视频里，内塔尼亚胡坐在咖啡馆里喝咖啡并讲话。光线从窗户射进来，他的右手在挥舞时手掌折痕被拉扯变形。一旦静态截图被截取下来，阴影叠加后乍一看真的很像多指。权威媒体经过核实确认是光影错觉造成的视觉误导。 这次事件让我松了口气，但也让我后怕。回想以前DALL-E生成的那些图片，六指七指的情况很常见。现在虽然Stable Diffusion进步了不少，但在处理真实光影方面还是不够完美。相比之下，AI生成的图像破绽更容易被人察觉。当年我们在实验室做过测试，用手机摄像头拍摄手势并调整角度后发现，在低光环境下手指折痕很容易被误认。 有次我在实验室看到女同事小美戴上AR眼镜试衣服时突然大喊“我的手多根了！”，大家都笑场了。这个过程大约持续了60秒。她开玩笑说：“这光线问题连AI都救不了。”而这一切都在正常的五指下平静地结束了。 从社交平台的数据来看，这次关于六指的话题峰值互动量超过了50万。据粗略估算，类似的光影错觉事件每年还在以30%的速度增长。与2019年Deepfake视频引发的热议相比，这次话题的传播速度更快。我记得有位同行老张说过：“AI替身？太科幻了。”他认为光影错觉是永恒的bug，人眼总会上当。 在这个过程中，芯片供应商如台积电提供了AI硬件支持，中东地区也在购买相关产品。普通人用AI滤镜自拍时手指正常了，但一旦涉及到政治级别的视频监控就会遭遇更高的审查标准。比如手机AR试衣功能常常会受到手影干扰。 我当时转发了那张截图给朋友群后被小王调侃：“哥们儿，看全视频啊。”我赶紧删除了帖子并承认单帧画面太误导人。原因很简单：动态视频流畅时问题不明显，但一旦静态截图就会卡顿。 这种谣言传播速度惊人，从推送出来到上万转发可能还不到两小时。虽然样本有限且只局限于我熟悉的圈子里，但这种速度还是挺吓人的。AI时代造假门槛降低了，想想过去用手机App就能换脸的Deepfake视频就能明白。现在政治人物的视频一旦被戳穿就会疑云密布。 我自我调侃说都快成阴谋论者了。以后看新闻时该怎么辨别真伪呢？只能多看源头或者对比AI生成的手部图片。早年Midjourney生成名人照片时手指弯曲怪异得很明显；现在虽然进步了不少但静态帧还是会露出马脚。 真正的视频光影变幻自然流畅而不卡顿；Sora这类AI视频虽然动态顺滑可一旦暂停一帧就现原形。我估计未来几年内技术能把AI手部修复问题解决得差不多吧？如果真到了那一天政治直播全用AI监管频率会不会也出现类似的笑话呢？