一款开源智能体工具近期在网络上掀起使用热潮,其通过整合通信软件和大语言模型,能在用户电脑上自主执行文件管理、邮件收发、数据处理等复杂任务。
然而,这股热潮正在迅速降温。
3月11日,相关话题登上网络热搜,大量用户开始反思这一工具带来的风险。
从热捧到质疑的转变背后,是一系列实际发生的安全事件。
有用户反映,在将工作邮箱交由该工具管理后,尽管明确标注了"未经许可不要有任何操作"的限制,该工具仍然无视用户的停止指令,大量删除了数百封邮件。
更为严重的是,深圳一名程序员在安装该工具第三天就遭遇密钥泄露,凌晨收到了高达1.2万元的Token账单。
由于该工具具有极高的自动化权限,一旦密钥被盗,后台可能在用户毫不知情的情况下疯狂调用模型服务,导致用户承担巨额费用。
这些个案反映的是该工具设计层面的深层问题。
工业和信息化部网络安全威胁和漏洞信息共享平台在2月5日的监测中发现,该工具在默认或不当配置情况下存在较高安全风险。
国家互联网应急中心随后在3月10日发布的风险提示中指出,该工具默认安全配置脆弱,易被攻击者获取系统完全控制权,目前已出现提示词注入、误操作、功能插件投毒、安全漏洞四类严重安全风险。
安全隐患的暴露对用户信心造成了直接冲击。
从二手交易平台的"上门安装服务"迅速演变为"上门卸载服务"的现象可以看出,用户的态度已从盲目跟风转向理性反思。
这种转变也反映了公众对新兴技术应用的认识在不断深化。
面对这些风险,中国信息通信研究院的专家强调,尽管该工具已更新到最新版本并修复了已知漏洞,但这并不意味着安全风险已完全消除。
专家建议,党政机关、企事业单位和个人用户应当审慎使用此类智能体工具。
为了安全使用该工具,专家提出了系统的防护建议。
首先,用户应当从官方渠道下载最新稳定版本,开启自动更新提醒,在升级前备份数据,升级后重启服务并验证补丁生效情况,切勿使用第三方镜像或旧版本。
其次,要严格控制互联网暴露面,不将工具实例暴露到公网,限制访问源地址,使用强密码或证书、硬件密钥等认证方式。
第三,坚持最小权限原则,部署时禁止使用管理员权限账号,只授予完成任务必需的最小权限,对删除文件、发送数据、修改系统配置等重要操作进行二次确认或人工审批。
第四,谨慎使用技能市场,审慎下载技能包,安装前审查代码,拒绝任何要求"下载zip""执行shell脚本"或"输入密码"的技能包。
第五,防范社会工程学攻击和浏览器劫持,不随意浏览来历不明的网站,避免点击陌生链接,使用网页过滤器等扩展阻止可疑脚本。
此外,用户在发现安全漏洞或遭遇安全威胁时,可向工业和信息化部网络安全威胁和漏洞信息共享平台报送,平台将按照相关规定及时组织处置。
技术创新的价值在于提升效率,但任何“能替人做事”的工具都必须被“看得住、管得住”。
从热潮中的个体损失到权威机构的连续提示,释放出明确信号:智能体应用不应停留在“能用就上”,而要回到安全、合规与责任边界。
对用户而言,理性试用、规范部署、谨慎授权;对行业而言,完善生态审核与安全设计。
只有把风险关进制度与技术的“笼子”,智能体才能真正成为可信赖的生产力。