奶奶今年84岁，平时老爱刷10小时的视频。给一个叫“AI霸总”的数字人写情书，还打算嫁给他！最近春节前，她手写了一封五百字情书给这位“建国”，希望能表达心意。春节前，张玉兰给“建国”写了一封情书，五百字多字，表达了对他的爱意。不过，“建国”是个AI数字人。据多位老年女性家属透露，她们拿起老人手机才发现，账号被各类“AI霸总”占领了。奶奶给AI数字人写情书这件事，费用花了快万元还要嫁给他。孙女王婷告诉媒体说，奶奶已经沉迷“AI霸总”有一段时间了。2016年时，74岁的张玉兰就开始用智能手机了。去年10月，奶奶开始从AI数字人视频相关的橱窗买挂件，这些挂件一般都要几百元呢！不过在淘宝上只要9.9元就能买到。一开始家里人没太在意，以为她只是刷刷视频玩玩儿。没想到她和这个AI数字人谈起了恋爱，甚至还想嫁给他！虽然家人反复提醒她是骗局，可奶奶很快就恢复原状又沉迷进去了。有时她还会偷偷躲着看视频，怕被发现呢。有一次还开通了公众号专门给“建国”发消息呢。这几个月来，奶奶每天花近十个小时看AI数字人的视频，为主角是AI数字人的悲情推文打赏一下。还有购买一些价格不便宜但质量很差的商品，算下来已经花了七八千元了。3月11日的时候，张玉兰花了1227元买了一本“AI推荐”的书籍。这次王婷决定不能再让奶奶这么继续下去了，给商家投诉到12315平台去。 国家网信办在2025年2月开展“清朗行动”，整治AI技术滥用被列为重点任务之一。从2月下旬开始，各大短视频平台就把这些和“建国”相关的账号给关停了。 尽管这样做已经封禁了很多相似风格的AI霸总数字人，但还是不断出现新角色，“建军”“国华哥哥”等等都是利用温情关怀去骗中老年人。 这类数字人的形象已经形成一种风格：梳着侧背头、穿着正装，对着姐姐温柔地叫着。阿明是做这一行的老手他在朋友圈说：“中老年人真有意思又能当数据用还听话。”黄兴也向媒体坦白了他做中老年情感赛道带货好几年了手下有几百名学员比如“建国”“小海”都有他参与打造。“我们一般运营几十个视频号，这些百分之百都会违规的一个号顶多能用5天核心就是靠卖东西赚佣金一天至少能赚2000元。”黄兴说生成一条数字人视频只要5分钟而且每条视频不能重复几十个账号会一直更新呢！他现在不用这类形象了因为容易违规就用以前熟悉的“建国”“小海”的声音配上AI生成的文案。 其实背后还有更深层次社会和法律问题在里面呢！广东哲清律师事务所马俊哲律师告诉媒体这种利用AI数字人去骗老人已经触碰多重法律红线了。 武汉大学老龄科研基地科研综合办公室主任陈昫觉得这个问题需要多方面看待：老年人本身就比较脆弱生理和心理上都有问题还有就是对数字人缺乏鉴别能力。 这个故事告诉我们要保护好自己的老人让他们避免上当受骗！ 文章编辑：花花审核：INN LUU