数字人"霸总"骗局频现,老年群体情感防线告急——短视频平台AI滥用乱象亟待整治

问题显现: 春节前夕,江苏沭阳一位八旬老人的手写情书引发社会关注。

张玉兰老人将情感寄托于名为"建国"的虚拟数字人,不仅花费近万元购买关联商品,更产生强烈的情感依赖。

其家人发现,老人每天花费十余小时观看相关视频,为虚拟人物打赏、购物,即便被告知是骗局仍难以自拔。

现象背后: 调查显示,类似案例并非个例。

在多个短视频平台,大量标注"帅气大叔""黄昏恋"等标签的数字人视频,正通过算法精准推送给中老年女性用户。

这些内容往往配以精心设计的苦情剧本,诱导用户购买高价低质商品。

据业内人士透露,此类视频制作成本极低,五分钟即可完成,但单日收益可达数千元。

深层原因: 专家分析指出,这一现象折射出多重社会问题。

首先,空巢老人普遍存在情感缺失,容易对虚拟关怀产生依赖;其次,中老年群体数字素养相对薄弱,难以辨别AI生成内容的真实性;再者,平台算法推荐机制客观上为不法分子提供了精准"狩猎"工具。

值得注意的是,部分账号还通过建立粉丝群、发送不明链接等方式,逐步将受害者引入更深的骗局。

应对措施: 目前,受害者家属已向市场监管部门投诉,当地12315平台已受理此案。

从政策层面看,今年2月启动的"清朗"专项行动已将整治AI技术滥用列为重点任务。

技术专家建议,应建立AI视频识别机制,通过负样本库及时拦截不良内容。

法律界人士则强调,需完善针对新型网络诈骗的司法解释,明确平台责任。

未来展望: 随着AI技术普及,类似骗局可能呈现专业化、团伙化趋势。

这要求监管部门建立跨平台协作机制,同时需要家庭、社区、社会组织形成合力,通过数字素养教育帮助老年人提升防范意识。

平台企业更应优化算法伦理,避免技术沦为欺诈工具。

老年人对陪伴与尊重的需求真实而迫切,任何以合成角色包装的“甜言蜜语”都不应成为牟利工具。

治理“虚拟恋爱”诱导消费,既是对网络空间秩序的维护,也是对基本社会伦理的守护。

以更严格的规则、更有效的监管、更温暖的陪伴共同织密防护网,才能让技术进步真正服务于人,而不是利用人。