Instagram负责人莫塞里发声:合成内容泛滥颠覆"眼见为实"传统认知 平台亟需构建真实性验证新机制

(问题)在图像与视频成为信息传播“第一语言”的当下,深度合成技术的快速普及正对社会长期形成的“眼见为实”共识构成冲击。

莫塞里在一组公开内容中指出,过去人们往往默认影像记录对应真实发生的瞬间,但这一默认前提正在瓦解。

面对真假难辨的画面,用户将从“先相信”转向“先怀疑”,并把注意力更多投向“谁在发布、为何发布、是否可信”。

这一变化不仅影响个人日常判断,也将对舆论场治理、公共事件传播与平台生态产生连锁反应。

(原因)其一,合成内容的制作门槛下降、传播效率提升,使“看起来很真”的内容在规模上迅速扩张,现实与虚构的边界被不断稀释。

其二,平台信息分发机制长期侧重即时性与传播力,客观上放大了情绪化、戏剧化内容的触达,真假影像在同一流量通道中竞争,用户辨识成本上升。

其三,传统的“后置标注”手段(如水印、标签)在跨平台转发、二次剪辑与截图传播中易被削弱,且在强对抗环境下难以形成稳定的信任凭证。

其四,部分影像设备与软件的“过度美化”倾向,使大量作品呈现高度一致的审美风格,反而进一步降低了影像作为证据的独特性与可追溯性。

(影响)一方面,公众在信息消费中的心理预期将发生结构性转变:对影像的信任不再源于画面本身,而更多依赖来源、链路与身份背书。

莫塞里提到,短期内未经修饰、甚至略显粗糙的“原始感”可能成为一种新的可信信号,因为其不易与精致合成风格混同。

但这也意味着,真实内容生产者可能被迫以“反精致化”来换取信任,内容表达方式随之改变。

另一方面,一旦“普遍怀疑”成为常态,公共讨论成本将显著上升:真实信息需要花更多时间自证,虚假内容则可能通过制造争议反向获取关注。

平台治理难度也随之加大,既要抑制低质合成内容泛滥,又要避免对正常创作与技术应用形成误伤。

(对策)莫塞里提出的平台层面应对思路主要集中在三条路径:第一,清晰标注合成内容,并在推荐机制中进一步提高原创内容的权重,减少“批量拼接、重复搬运”对注意力资源的挤占;第二,建立更系统的真实素材验证能力,向用户提供更透明的发布者信息与可信度提示,帮助用户在接收信息前形成基本判断框架;第三,从“内容真假”转向“来源可信”的治理范式,推动真实影像在采集端生成可核验的加密指纹与签名,通过硬件与系统级的溯源能力,把真实性验证前移到影像产生的起点,而非依赖后期附加的标签或水印。

从行业治理角度看,上述方向指向一个更清晰的趋势:未来的“可信影像”建设将更强调标准化、可互认与跨平台流转的验证机制。

仅靠单个平台的提示难以覆盖全链路传播,需要设备厂商、平台企业、内容生产者以及相关机构在技术标准与规则体系上形成更广泛协同。

同时,平台在推进技术措施的同时,还需完善申诉与纠错通道,降低误判成本,避免“过度过滤”压缩正常表达空间。

(前景)莫塞里判断,人类适应新的信息环境需要时间。

可以预见的是,在合成技术持续迭代的背景下,“不完美即真实”的窗口期可能并不长:当合成能力能够稳定复刻抖动、噪点、失焦等细节后,单纯依靠视觉线索辨真将越来越困难。

届时,真实性竞争将从“画面逼真度”转向“来源证明力”,社会对“内容生产—发布—传播”的全链路可信基础设施需求将明显上升。

平台若希望维持公共空间的基本秩序与用户信任,需要把可信机制建设视为长期工程,而非短期产品功能。

当技术发展速度超越人类认知适应能力时,如何守护真实性这一社会根基,已成为摆在技术企业、监管机构和每个公民面前的共同课题。

这不仅关乎数字生态的健康运行,更深刻影响着人类文明延续数千年的信任纽带。

在这场没有退路的真实性保卫战中,需要技术创新与制度设计双轮驱动,更需要全社会形成维护真实、珍视诚信的价值共识。