问题——深度伪造从“娱乐化”走向“犯罪化”“流程化”。
在网络空间，利用换脸、声音克隆等手段进行敲诈勒索、仿冒传播的事件不断出现。
肖新光介绍，曾有两名同事在接受电视节目采访后，同时收到“换脸”敲诈信息。
经追溯发现，涉案团伙会紧盯公开节目和新闻内容，批量采集人物影像与声音信息，继而寻找联系方式、合成伪造内容并实施恐吓勒索，已形成较为固定的作业链条。
实践显示，当相关技术门槛降低后，伪造内容可在较低成本下快速生成，且传播速度快、取证难度大，给个人权益与社会秩序带来现实挑战。
原因——数据易得、生成易用、维权难与惩戒弱交织。
一是公开素材成为“数据源”。
主持人、企业人士等具有一定公众属性的群体，在新闻报道、公开活动、短视频平台等场景中留下大量可被抓取的图像与语音片段，使不法分子更易“喂料合成”。
二是工具化趋势削弱了犯罪门槛。
只需少量照片或短音频即可生成较高拟真度的内容，叠加自动化脚本、群发渠道和匿名账号，形成规模化运作。
三是维权机制仍偏“单条投诉式”。
现实中，多数侵权仿冒往往依靠被侵害者向平台逐条投诉处置，难以形成对个人肖像权、名誉权、隐私等的整体性、前置性保护；平台裁量空间较大、个体举证成本高，甚至出现“被假冒者不知情”的情况，导致侵害长期潜伏。
四是对“借助新技术实施违法犯罪”的惩戒指引仍需进一步细化，威慑效果有待增强。
影响——从个人权益扩展到社会信任与公共安全。
深度伪造不仅损害个体名誉与财产安全，还可能放大谣言扩散、操纵舆论、扰乱公共秩序等外溢效应。
当伪造内容指向金融交易、政务服务、企业管理等场景时，更易诱发“以假乱真”的连锁风险。
与此同时，相关技术被用于网络侦察、漏洞挖掘、恶意代码生成与社会工程学欺骗等，也引发外部安全关切。
有境外媒体报道称，美方计划联合企业研发面向网络战的相关工具，意图对关键基础设施与网络系统进行侦察定位。
业内人士指出，电力等基础设施规模庞大、调度链条复杂、智能化程度高，一旦遭到高强度网络攻击，潜在影响可能波及民生保障与经济运行。
对策——从“平台自治”转向“公共安全治理”，以制度与能力协同。
肖新光建议，应将深度伪造治理从单纯的技术风险视角、平台自律逻辑，提升到公共安全视角，形成更系统的治理能力与技术体系： 其一，完善规则体系，压实链条责任。
围绕内容生成、传播、交易、变现等关键环节，推动形成更具可操作性的管理标准与审查要求，健全标识、溯源、取证与处置流程，减少“合成即传播、传播难追责”的灰色空间。
其二，强化执法与司法指引，提升违法成本。
我国对敲诈勒索、诈骗、侵犯公民个人信息等违法犯罪已有较成熟法律基础，可通过司法解释、典型案例等方式，对“借助新技术手段实施犯罪”的情形明确从重惩处导向，增强震慑。
其三，推动技术治理与行业协同。
以可信检测、内容溯源、异常行为识别等手段提升发现能力，在可靠的感知、采集、响应机制支撑下，提高处置自动化水平，降低防御端的压力。
同时，推动平台、媒体机构、通信运营、金融机构等建立跨域联动的风险通报与快速止付、止损机制，缩短从发现到处置的时间差。
其四，加强个人信息与公开素材的规范使用。
对节目采访、公开活动、机构宣传等场景中涉及人像、声音的采集与发布，强化告知与授权管理，完善数据安全措施，减少被滥用的可能。
前景——以“能力对能力”，守住数字时代的安全底线。
随着生成式技术持续演进，深度伪造的逼真度、自动化程度仍将提升，治理也将从“事后处置”转向“前置预防”、从“分散应对”转向“体系作战”。
肖新光认为，“数字主权”已与领土主权一样，成为现代国家安全不可分割的组成部分。
面对外部可能的技术化、工具化攻击与内部的黑灰产利用，应坚持以技术管技术、以能力对能力，用技术赋能防御，通过制度与能力建设同步推进，提升关键基础设施与社会运行系统的韧性。
人工智能是一把双刃剑。
在为社会进步提供强大动力的同时，也为违法犯罪提供了新的工具。
深度伪造技术的滥用问题不是技术本身的问题，而是治理体系的问题。
只有通过完善法律制度、强化执法力度、提升技术防御能力、明确平台责任，才能在充分利用人工智能红利的同时，有效防范其带来的风险。
这既是维护个人权益的需要，更是维护国家数字安全和战略安全的必然要求。