问题显现: 春节前夕,江苏沭阳一位八旬老人的手写情书引发社会关注。
张玉兰老人将情感寄托于名为"建国"的虚拟数字人,不仅花费近万元购买关联商品,更产生强烈的情感依赖。
其家人发现,老人每天花费十余小时观看相关视频,为虚拟人物打赏、购物,即便被告知是骗局仍难以自拔。
现象背后: 调查显示,类似案例并非个例。
在多个短视频平台,大量标注"帅气大叔""黄昏恋"等标签的数字人视频,正通过算法精准推送给中老年女性用户。
这些内容往往配以精心设计的苦情剧本,诱导用户购买高价低质商品。
据业内人士透露,此类视频制作成本极低,五分钟即可完成,但单日收益可达数千元。
深层原因: 专家分析指出,这一现象折射出多重社会问题。
首先,空巢老人普遍存在情感缺失,容易对虚拟关怀产生依赖;其次,中老年群体数字素养相对薄弱,难以辨别AI生成内容的真实性;再者,平台算法推荐机制客观上为不法分子提供了精准"狩猎"工具。
值得注意的是,部分账号还通过建立粉丝群、发送不明链接等方式,逐步将受害者引入更深的骗局。
应对措施: 目前,受害者家属已向市场监管部门投诉,当地12315平台已受理此案。
从政策层面看,今年2月启动的"清朗"专项行动已将整治AI技术滥用列为重点任务。
技术专家建议,应建立AI视频识别机制,通过负样本库及时拦截不良内容。
法律界人士则强调,需完善针对新型网络诈骗的司法解释,明确平台责任。
未来展望: 随着AI技术普及,类似骗局可能呈现专业化、团伙化趋势。
这要求监管部门建立跨平台协作机制,同时需要家庭、社区、社会组织形成合力,通过数字素养教育帮助老年人提升防范意识。
平台企业更应优化算法伦理,避免技术沦为欺诈工具。
老年人对陪伴与尊重的需求真实而迫切,任何以合成角色包装的“甜言蜜语”都不应成为牟利工具。
治理“虚拟恋爱”诱导消费,既是对网络空间秩序的维护,也是对基本社会伦理的守护。
以更严格的规则、更有效的监管、更温暖的陪伴共同织密防护网,才能让技术进步真正服务于人,而不是利用人。