央视曝光"数据投毒"黑产乱象 专家呼吁加强AI内容生态治理

问题—— 近期,央视“3·15”晚会披露,一些机构打着“生成式引擎优化”等旗号推销营销服务,实际通过批量生成虚假软文、矩阵式分发等方式,把低质甚至失真的内容推入互联网信息流,进而污染大模型可抓取的数据来源,诱导其在问答与推荐中输出被操纵的结果。节目点名“力擎GEO优化系统”等案例,显示围绕大模型内容呈现环节的灰色产业链正在出现。 该事件引发社会对大模型内容生态安全与合规的关注:公众担心被“加工”的信息影响消费决策与公共认知;企业与平台则面临信誉受损和合规压力上升。

生成式技术的发展离不开真实可信的信息基础;治理“投毒”黑产,既要用法治手段对组织化造假保持高压,也要通过制度与市场机制鼓励优质内容生产与合规流通。当真实更稀缺、可信更有价值,技术应用才能在更健康的生态中释放公共价值。