近期,一款开源智能体应用在国内迅速走红,因其图标形象被用户昵称为"龙虾"。
该应用通过整合通信软件与大语言模型,可在用户本地设备上自主完成文件管理、邮件收发、数据处理等复杂任务,引发产业界和用户群体的广泛关注与应用实践。
然而,伴随应用热度攀升,其安全性问题也日益凸显。
工业和信息化部网络安全威胁和漏洞信息共享平台日前发布预警提示,针对该开源智能体存在的安全风险提出防范建议。
中国信息通信研究院副院长魏亮在接受采访时表示,尽管该应用更新迭代速度较快,升级至官方最新版本能够修复已知安全漏洞,但并不意味着彻底消除安全隐患。
魏亮分析指出,作为本地运行的智能代理程序,此类应用具备自主决策和调用系统资源的能力,加之信任边界模糊、技能包市场缺乏严格审核机制,存在多重风险隐患。
具体表现为:在调用大语言模型过程中可能误解用户指令,导致执行删除等破坏性操作;使用被植入恶意代码的技能包,可能造成数据泄露或系统被非法控制;因实例暴露于互联网、使用管理员权限、明文存储密钥等配置不当,即便升级至最新版本,仍面临被攻击风险。
"网络安全是动态演进的,攻击手法也在不断迭代更新,不能将打补丁和升级版本视为一劳永逸的安全保障。
"魏亮强调,党政机关、企事业单位和个人用户应当审慎使用此类智能体应用。
一旦发现安全漏洞或遭遇安全威胁和攻击事件,应第一时间向工业和信息化部网络安全威胁和漏洞信息共享平台报送,平台将按照《网络产品安全漏洞管理规定》要求及时组织处置。
针对如何安全使用此类智能体应用,魏亮提出系统性防范建议。
他指出,任何网络产品的安全使用,除及时升级更新外,还必须坚持"最小权限、主动防御、持续审计"原则。
在具体操作层面,魏亮建议用户采取五项关键措施:一是使用官方最新版本,优先从官方渠道下载最新稳定版并开启自动更新提醒,升级前备份数据,升级后重启服务并验证补丁生效情况,切勿使用第三方镜像或旧版本;二是严格控制互联网暴露面,避免将智能体实例暴露至公网,确需互联网访问时应通过安全隧道并限制访问源地址,使用强密码或证书、硬件密钥等认证方式,定期自查互联网暴露情况并及时整改;三是坚持最小权限原则,严禁使用管理员权限账号部署,仅授予完成任务必需的最小权限,对删除文件、发送数据、修改系统配置等重要操作进行二次确认或人工审批,建议在容器或虚拟机中隔离运行;四是谨慎使用技能市场,审慎下载技能包并在安装前审查代码,拒绝任何要求下载压缩包、执行脚本或输入密码的技能包;五是防范社会工程学攻击,提高安全意识,警惕通过伪装诱导用户执行危险操作的行为。
业内专家认为,此次预警提示反映出我国在推动新技术应用发展的同时,高度重视网络安全风险防范。
随着智能体技术快速发展和应用场景不断拓展,建立健全安全审查机制、完善技术标准规范、强化用户安全教育已成为当务之急。
智能体的普及正在重塑生产与生活方式，但任何效率提升都不能以牺牲安全为代价。
面对新技术带来的新挑战，只有坚持审慎使用、规范部署与持续防护，才能在释放创新动能的同时守住网络安全底线。