问题:开源智能体的快速普及带来“能力越强、风险越高”的新挑战;近期,开源自主智能体凭借自动化任务处理能力和快速扩展的插件生态,全球掀起部署热潮。此外,面向互联网暴露的对应的资产数量持续增加,安全机构监测显示活跃资产已达到相当规模,境内增长也在加速。随着智能体逐步具备文件读写、系统调用、联网检索与脚本执行等能力,一旦被滥用或遭入侵,可能引发服务器失控、敏感数据泄露、业务中断等连锁风险。安全边界正从“人操作系统”转向“智能体操作系统”,传统防护思路面临调整。 原因:开放架构与繁荣生态叠加,使风险更分散、治理更复杂。开源软件部署门槛低、便于二次开发,但也更容易出现默认配置不一致、版本更新不同步、漏洞修复滞后等问题;插件生态提升效率的同时,也加大了第三方组件可信度评估、权限申请管理和调用链追踪的难度。此外,部分用户为图方便将接口直接对外开放或弱化认证措施,使攻击者更容易找到入口并扩大影响。业内人士指出,在此背景下,攻击方可借助自动化手段批量探测并快速利用漏洞,而防守方需同时兼顾资产梳理、权限控制、审计溯源与合规要求,客观上形成“攻易防难”的不对称局面。 影响:企业效率提升与安全合规之间的矛盾更突出,行业治理也面临新课题。一上,智能体可降低重复性工作成本,提升运维、客服、数据处理等环节效率;另一方面,如果缺乏可验证的身份绑定、清晰的权限边界与可追溯的行为审计,企业数据安全、个人信息保护、关键系统稳定运行各上将承受更高的合规与运营风险。监管部门已提出防范建议,包括及时升级版本、优化默认配置、谨慎安装第三方插件、加强账户认证管理、限制智能体执行权限等。如何将这些建议转化为企业真正可落地的产品能力,成为产业需要补齐的一环。 对策:以“强身份+强管控”将高危指令纳入制度与技术约束。3月13日,在“数智护航 安全共赢”广州数字安全产业发展研讨会上,广州数字科技集团通过产投平台引入的领信数科发布企业级安全智能体Cclawd。该产品基于开源智能体内核进行安全增强,引入网关风控与生物识别确权机制,并通过插件安全机制对关键能力加以约束。现场演示显示,当用户触发删除文件、读取隐私信息等高危操作时,系统会自动弹出人脸认证,只有通过操作者本人核验并确认后,相关指令才可继续执行,从而将“能做什么、谁来做、何时做”纳入可验证流程,提升行为的可知、可控与可追溯水平。 除身份核验外,产品还集成流量清洗、流量审计、自动升级等能力,并计划建设经过审计的插件获取渠道,推动插件来源可控、风险可评估。企业可据此在不同场景配置分级授权策略:一般任务保持效率,高危操作提高门槛,关键系统落实最小权限与双重确认机制,兼顾业务连续性与安全底线。领信数科相关负责人表示,产品将面向企业安全合规团队、开发者等群体开放使用,并将随开源生态迭代持续升级,以适应快速变化的技术环境。 前景:从“工具上云”到“智能体入企”,安全能力将成为竞争的关键变量。随着智能体从试用走向生产系统,企业需要将身份管理、权限治理、审计留痕、插件生态管理等能力前置到架构层。未来,围绕智能体的安全治理有望形成可复制的方法:以权威身份为基础,建立“人—账号—设备—行为”的一致性校验;以最小权限和分级审批为核心,形成高危操作的强制确认与可撤销机制;以可观测与可追溯为抓手,提升告警处置、取证分析与责任界定效率。同时,地方产业平台通过引入安全企业、聚合技术与场景,也将推动大湾区数字安全产业在标准、产品与服务体系上加快完善,为企业“敢用、会用、用好”智能体提供支撑。
数字化转型加速之下,技术创新与安全防护需要同步推进;广州企业在智能体安全领域的探索表明,只有把开放能力与关键环节的可控性结合起来,才能在提升效率的同时守住安全底线,推动数字经济稳健发展。