问题——端侧大模型“上机”带来合规新命题。
随着在智能手机中嵌入大语言模型等能力的新型终端加速普及,手机不再只是应用的载体,而逐步具备“理解—决策—执行”的代理特征:可以基于语音或文字指令读取屏幕信息、跨应用检索并完成操作。
这种能力提升便利的同时,也使系统权限调用、跨端数据抓取、内容生成与传播、以及多主体协作下的责任边界变得更复杂。
尤其在个人信息、敏感信息以及商业数据处理方面,若缺乏清晰规则与可核验流程,容易引发“授权不清、用途不明、责任不定”的风险,成为产业升级必须直面的治理课题。
原因——技术结构与生态链条重塑治理难度。
研讨认为,AI手机合规挑战集中来自三方面变化:其一,数据处理从“单一应用”向“终端级协同”扩展。
传统模式下,多数信息处理由单个应用完成,边界较清晰;而AI手机往往需要系统级权限与多应用配合,数据在终端、模型与第三方应用之间多次流转,目的与范围更难被普通用户准确理解。
其二,能力从“按键触发”转向“意图驱动”。
代理式功能可能在后台持续学习、推荐或自动化执行,若仅以一次性、笼统授权覆盖全流程,难以满足合规所要求的充分告知与最小必要。
其三,产业链参与者增多。
手机厂商、模型与服务运营者、第三方应用平台、内容与数据提供方乃至用户共同参与,任何一环的安全缺口都可能导致整体风险外溢,责任认定也更需要制度化规则支撑。
影响——事关用户权益、市场秩序与创新预期。
与会人士指出,若个人信息保护与数据安全机制滞后,用户将面临隐私泄露、敏感信息被不当推断、被动“画像”与不透明决策等风险;企业则可能遭遇合规成本上升、纠纷增加与品牌信任受损。
更重要的是,跨应用操作、数据抓取与内容生成若缺乏边界,容易诱发不正当竞争争议、平台与开发者之间的利益摩擦,影响行业生态的可持续性。
司法与监管如何在安全与效率之间把握尺度,直接关系创新预期稳定与数字经济发展质量。
对策——以“实质知情”为牵引,完善权责规则与治理机制。
围绕如何推动AI手机健康发展,研讨会形成多项具有操作性的建议。
一是坚持规则回归本质,充分运用现有法律框架。
与会专家认为,面对新形态产品引发的竞争争议,可在反不正当竞争、反垄断等既有制度框架下厘清行为性质与边界,避免因概念新颖而放大监管不确定性。
同时在版权保护、数据获取合法性、跨端抓取与使用判定等方面,强调以事实链条与可解释机制为依据,提高规则适用的稳定性。
二是把“实质知情”作为合规核心,避免笼统授权。
与会人士强调,关键不在“有没有授权”的形式,而在用户是否真正理解何时、为何、以何种方式处理数据。
应在敏感信息调用、跨应用操作、云端同步等关键节点提供清晰提示与自主选择,探索动态授权、分级授权等方式,让用户在重要环节“可选择、可撤回、可追溯”。
同时,针对“可用不可见”等防护路径,倡导通过技术设计减少不必要的数据暴露,实现功能可用与信息最小化并行。
三是强化数据处理者义务,建立可核验的安全闭环。
研讨提出,传统个人信息保护制度需要进一步向“强化处理者责任”转型:明确处理目的、限定处理范围、加强权限管理与日志留存,完善加密、隔离、脱敏等措施,并建立面向风险的分级评估与应急处置机制。
对端侧模型与云端协同的场景,应推动形成可审计、可验证的合规链条,降低“黑箱式处理”带来的信任缺口。
四是细化责任划分,形成“过错归责+协议补充”的可执行路径。
针对多主体参与特点,与会代表提出,在法律适用与责任分配上应坚持过错原则,同时通过合同与服务协议对边界、义务与救济作补充约定,明确手机厂商、模型或服务运营者、第三方应用以及用户各自责任。
对于系统级能力调用第三方应用资源的场景,应明确安全接口、权限边界与违规处置机制,减少纠纷空间。
司法实践层面,建议在保护权益与鼓励创新之间保持平衡,通过个案裁判与规则供给共同推动产业健康发展。
五是以标准先行、监督护航、奖惩并重推进协同治理。
研讨认为,面对技术快速迭代,单一主体难以独立完成治理,应推动行业标准、测评规范与合规指南先行,建立动态监管与社会监督机制,对合规表现良好的企业形成正向激励,对触碰底线的行为加大惩戒力度。
通过产业链协作与监管联动,提升治理的响应速度与一致性。
前景——在创新与安全的平衡中培育新增长点。
与会人士普遍认为,AI手机作为端侧智能的重要载体,将在提升生产生活效率、推动应用创新和拓展数字消费方面释放潜力。
未来一段时期,端侧计算能力、模型压缩与多模态交互将持续演进,带来更多跨场景服务。
与此同时,合规体系建设将决定行业能否形成可持续、可复制的商业模式。
随着相关制度完善、行业标准成熟和技术防护能力提升,AI手机有望在更清晰的规则边界内实现“能力可用、风险可控、责任可追”,为数字经济高质量发展提供更坚实支撑。
新技术的价值,不仅体现在速度与便利,更体现在是否能在制度轨道上赢得长期信任。
AI手机的快速发展提示我们:在鼓励创新的同时,必须把用户权益与数据安全置于更突出位置,以可解释、可核验、可追责的治理体系凝聚共识、稳定预期。
只有让规则与技术同步进步,才能把“智能升级”转化为更可靠、更可持续的发展动能。