数智时代青年群体陷入"信任幻觉" 专家呼吁多管齐下强化批判素养

在数智传播快速演进的背景下,智能终端与生成式内容产品深度嵌入学习、工作与日常生活,青年群体因接触频率高、使用场景多,成为智能媒介最活跃的用户之一。

与此同时,一种值得警惕的人机关系异化现象正在出现并扩散:部分青年用户对智能体产生“超出技术边界”的信任与依赖,进而形成“信任幻觉”,对信息传播秩序与个体能力成长带来潜在冲击。

问题:从“工具”到“伙伴”的信任偏移需高度关注 相关调研数据显示,超过六成受访青年倾向于将智能终端视为生活伙伴,近六成将其定位为智能助手。

表面看,这是智能化应用提升效率、改善体验的结果;但从传播与心理机制看,信任关系正从“基于功能的有限信任”滑向“基于拟人化的过度信任”。

当用户把智能系统当作“可靠的对话对象”乃至“决策参谋”,一旦系统输出与事实不符、逻辑看似自洽却缺乏依据,便可能放大错误信息的影响范围,甚至影响个人判断与公共讨论质量。

原因:技术局限、产品设计与心理需求叠加,催生“幻觉”空间 其一,技术层面的不确定性仍客观存在。

部分模型基于概率预测生成内容,可能出现“语言流畅但事实偏离”的输出,特别是在专业知识、时效性信息与证据链要求高的领域,更容易产生误导性表达。

其二,产品形态与交互方式强化“拟人化错觉”。

连续对话、情绪化回应、个性化推荐等功能,提升了陪伴感与可用性,也容易让用户误把“表达能力”当作“真实能力”,忽视其推理依据与数据来源。

其三,青年群体在高压力与高信息密度环境中,对效率工具与情感支持有现实需求。

为了降低认知负担、节省时间成本,一些用户倾向于把检索、核验、比较等环节“外包”给智能系统,久而久之形成认知依赖与判断惰性。

其四,平台生态与传播链条加剧风险外溢。

未经核验的生成内容在社交平台、短视频与社区传播中易被二次加工与情绪化包装,放大“看起来很真”的误导效应。

影响:从个体能力到社会治理,多重风险需前置应对 对个体而言,“信任幻觉”最直接的后果是批判性思维与创造力可能被削弱。

一方面,过度依赖导致检索、阅读、判断、写作等关键能力被“替代式使用”,出现认知卸载;另一方面,长期接受“结论先行”的生成内容,容易减少独立求证与多元比较,影响深度学习与创新表达。

对社会而言,其风险主要体现在三个方面:一是扩大数智鸿沟。

掌握核验方法与信息素养者更能受益,缺乏辨识能力者更易被误导,形成新的信息不平等。

二是隐私与安全隐患增加。

用户在高度信任状态下可能过度提供个人信息,带来数据泄露与滥用风险。

三是公共意见可能趋于同质化。

算法推荐与生成内容的“模板化表达”叠加,容易使观点传播呈现回音室效应,影响公共讨论的多样性与理性程度。

同时,算法偏见在特定议题上可能被放大,对公平正义与社会共识构建造成扰动。

对策:技术、素养、制度三端协同,构建“可信—可控—可追责”体系 首先,在技术端提升去伪存真能力。

要加强语料与数据治理,推进高质量语料库标准化建设,完善数据采集、清洗、标注、更新机制,从源头减少“脏数据”污染;同时在模型训练与推理阶段引入事实核查与引用溯源机制,强化对时效性、权威性信息的校验能力,降低“生成幻觉”概率。

还应提升透明度与可解释性,通过标注信息来源、提示不确定性、提供证据链等方式,减少算法黑箱对用户判断的干扰,推动形成“可验证的可信”。

其次,在主体端提升数智批判素养,尤其要面向青年群体开展系统化引导。

应推动学校、家庭与平台共同发力,将信息核验、证据意识、隐私保护等内容纳入常态化教育与培训;引导用户理解生成内容的边界与适用场景,形成“先求证、再使用”的习惯;在学习与工作中倡导人机协作而非人机替代,明确“工具辅助、主体决策”的基本原则,把选择权与价值判断牢牢放在人的手中。

再次,在制度端完善规范与伦理约束,加快形成可执行、可追责的治理框架。

要明确研发方、平台方、应用方的责任边界,完善算法审查、内容标识、风险评估与应急处置机制;对涉及公共利益的重点领域应用,建立更严格的准入、审查与持续监管体系;推动形成覆盖隐私保护、数据安全、反歧视与反虚假信息传播的综合制度安排,为技术创新划定底线、提供边界。

前景:以治理创新释放技术红利,重建传播场域的信任基础 可以预见,智能化工具仍将深刻改变信息生产与传播方式,关键在于能否把技术红利稳定转化为社会效益。

未来的治理重点,应从“事后纠错”转向“源头防控与过程可控”,从单点整治转向多主体协同,从被动应对转向常态化风险评估与公众能力建设。

随着标准体系、监管机制和公众素养不断完善,人机关系有望回归理性:技术更可信、使用更审慎、传播更健康,数字公共空间的信任基础也将得到巩固。

人机关系的健康发展关乎数字文明的未来走向。

在拥抱技术红利的同时保持理性认知,既是当代青年的必修课,也是建设数字强国的必答题。

只有建立技术向善、人为主导的新型交互模式,才能在数字化浪潮中守护人类文明的独特价值。