“AI霸总”这种骗人的把戏，居然成了中老年女性的新宠。老太刷个手机就能被这种花哨的数字人迷住，从早到晚都在那看。姜小星奶奶的手机里，“姐姐，明天我就要走了”这样的台词不断响起来，她自己倒是乐在其中，可姜小星听了直头疼。奶奶关注的三四十位“AI霸总”，个个画风都差不多，全是在豪宅里装儒雅、扮深情的模样。这帮人把标签设成“帅气大叔”或者“黄昏恋”，专门去推送给那些平时没人关爱的中老年女性。 咱们全国人大代表李秋也急了，建议政府得把那些欺诈、诱导老年人下单的行为狠狠打击一顿。这些视频不光是图个乐呵，里头还藏着不少求偶信号，“共度余生”或者“找个疼你的人”，这些话术把老年人哄得团团转。记者还发现，有些“AI霸总”背后其实是婚恋机构在搞鬼。你只要点个关注，马上就会有私信跳出来说要给你联系方式。如果对方是红娘，你还得先交980元办会员才能见上一面。 为了更清楚是怎么回事儿，记者自己动手用生成式AI平台做了3个10秒的视频。在某平台上传一张照片后，系统就自动匹配好了声音。设定好台词动作后大概6小时就能出成果，另外一个App速度更快点，两三个小时就能搞定。 这事儿挺吓人的。记者拿新注册的账号测试了一下这三个视频，不到18小时就涨了500多位粉丝。浏览量最高的那个冲到了1.2万次。还有好些中老年女性在私信里透露了生日、年龄这些信息。 法律界的黄启瑞律师指出，现在骗了钱还难维权是因为AI技术门槛太低了。受害者往往没那个技术手段去收集证据形成闭环，就算找律师帮忙也得花大价钱。 国家网信办在2022年11月就发了《互联网信息服务深度合成管理规定》，明确要求这种有合成痕迹的信息要做标识。快思慢想研究院的田丰院长也提到现在还存在一些人偷摸修改国外开源工具来逃避监管的情况。 针对这个问题，黄启瑞建议短视频平台得加强内容过滤；田丰则希望模型能自带一个“黑名单”，直接识别出那些不良素材和指令从而阻止它们被发出来。 这些“AI霸总”的视频其实大部分都是商家花钱找专业团队代工做出来的。时间短一点的1分钟视频做得少价钱高：做1个要50元；如果要做50个价钱能降到40元一个；要是量大到100个单价甚至能压到30元。 有些卖货的直播间更离谱。记者在一个叫“建国情感”的直播间看到，主播正打着“AI霸总给你送礼物”的幌子卖一种59.9元的武财神挂件。这种商品的销量已经冲到了3.9万件。 在粉丝群里互动的人也不少。记者进了4个粉丝超过百人的群聊群里消息更新得飞快。“AI霸总”每天都在群里发直播链接，中老年女性们抢着回复互动。 姜小星家里的事儿也是一样的套路。一个月前她奶奶还嚷嚷着要去外地找个“AI霸总”见面奔现，幸亏家人及时拦了下来才没出事。