(问题)近期,具备自主决策与系统资源调用能力的本地开源智能体快速进入政企办公、数据处理、研发测试等场景,一些单位和个人在本地服务器或个人设备上进行部署使用,效率提升明显。
但与此同时,安全风险同步显现并呈现“低门槛、强外溢、难追溯”的特征。
国家相关部门此前已就相关风险作出提示:通过提示词注入诱导泄露接口密钥、在具备执行权限条件下引发误操作导致数据删除、借助恶意插件或“技能包”实现系统被控,以及利用安全漏洞造成隐私信息外泄等问题,已在多地多类场景中出现。
(原因)风险集中暴露,既有技术特性使然,也与使用方式有关。
一方面,此类工具往往集成了文件读写、命令执行、数据库访问、网络请求等能力,一旦权限配置过宽,错误指令或恶意诱导就可能被放大为系统级后果。
另一方面,本地部署热潮带来“快速上手、快速接入”的倾向,部分使用者在密钥管理、隔离环境、网络暴露控制、第三方组件审查等方面经验不足,容易形成管理盲区。
再加之插件生态扩张迅速、依赖链条复杂,供应链环节被“投毒”的概率上升,安全边界更难把控。
(影响)上述问题若处置不当,可能产生多重连锁影响:对单位而言,轻则造成业务中断、数据丢失与系统被控,重则引发核心数据泄露、重要信息系统遭入侵;对个人而言,可能带来个人信息被非法收集、被二次利用甚至诈骗风险;对产业发展而言,若安全事件频发,将削弱市场信心,影响新技术在实体经济场景的落地速度与应用质量,进而增加合规成本与治理压力。
(对策)在此背景下,珠海市委网信办、粤港澳大湾区生成式人工智能安全发展联合实验室珠西中心、广东省网络数据安全与个人信息保护协会湾区办公室等单位联合发布《珠海市“养虾安全十条”》,旨在为本地开源智能体“如何安全使用、如何规范接入、如何防范风险”提供可操作的指引。
该指引依据国家有关规定并结合珠海实际,从安全风险认知、源头管理、权限控制、网络防护、插件管理、数据保护、日志留存、风险防范、协同共治、有序发展十个维度,构建覆盖部署、运行、运维与处置的全流程规范框架。
从技术与管理要点看,指引突出三条主线:一是守住权限边界。
明确坚持最小权限原则,倡导隔离运行环境,对高风险操作设置二次确认机制,减少权限滥用与误触发带来的系统性后果。
二是管控网络暴露面。
强调避免管理端口直接暴露在互联网环境,推广使用加密通道与多因素认证等手段,提高远程访问与运维环节的安全门槛。
三是把牢插件与组件入口。
针对第三方插件可能带来的供应链风险,要求从可信渠道获取“技能包”,并开展必要的代码审查与安全评估,防止“带病上岗”和暗门后门。
在数据安全方面,指引对敏感信息管理作出明确约束,强调不得以明文方式存储接口密钥等敏感数据;涉及个人信息处理的,要求严格遵守《个人信息保护法》,落实告知同意、最小必要、目的限定等基本原则,推动形成“可用不可见、可控可追溯”的数据使用秩序。
同时,指引提出要完善日志留存与风险处置机制,通过可审计、可追溯的记录体系提高事后核查与责任认定能力,压缩“无痕攻击”和内部违规操作的空间。
值得关注的是,指引还将“协同共治”作为重要一环,鼓励科研机构、安全企业等加强关键技术攻关,支持安全漏洞依法依规报送与处置,推动形成多方参与的安全生态。
这一安排既回应了新技术迭代快、风险变化快的现实,也有利于把分散的防护经验沉淀为可复制的制度能力。
(前景)业内人士认为,随着本地部署工具持续普及,安全治理将从“事后补救”转向“事前规范”,从单点加固转向体系化建设。
珠海此次推出“养虾安全十条”,既是对新型风险的及时回应,也释放出明确导向:在鼓励创新应用的同时,把安全底线与合规要求前置到部署、接入、运维各环节。
未来,随着相关规范落实落细,智能体在办公辅助、数据处理等领域的应用有望更稳妥推进,形成可积累、可推广的实践经验,为数字经济发展提供更可靠的安全支撑。
技术的价值,最终取决于人类驾驭它的能力。
本地开源智能体的快速普及,是数字化转型深入推进的缩影,也是新型安全挑战集中涌现的缩影。
珠海此次率先出台系统性安全规范,提供了一个值得借鉴的地方治理样本。
如何在鼓励创新与防范风险之间找到动态平衡,将是各地政府、企业与技术社区在人工智能时代共同面对的长期命题。
唯有将安全意识内化为技术实践的基本准则,才能真正让智能技术成为推动高质量发展的可靠力量。