中国网络空间安全协会人工智能安全治理专业委员会的委员王媛媛专门对大家说了这事，她指出开源大模型就是那些把核心架构、训练参数，甚至部分训练数据都公开出来的工具，用户能免费用、研究甚至修改。现在互联网上这类模型可真不少，功能各有千秋，有的擅长推理，有的在代码生成或图像识别上很拿手，给我们提供了不少便利。就像你把体检报告上传给模型，它就能帮你分析健康状况并给调养建议。 不过王媛媛特别提醒了大伙儿一个容易忽略的关键点，就是这些工具基本都有存储功能。你给它们“投喂”的任何文件、图片、文本信息，模型都会存储起来做分析，这是它们实现智能交互的基础。所以数据安全成了开源大模型最突出也是最容易被忽视的风险点。 最近国家安全部门通报的案例就把警钟敲得挺响。有些单位在信息化建设时直接用开源技术框架搭了个能联网访问的大模型，结果系统部署有漏洞，默认设置允许公网访问也没设啥控制，大门彻底敞开了。境外的攻击者就趁虚而入，直接把大量内部敏感资料给偷了去，国家秘密、商业秘密还有个人隐私都面临着威胁。 这就暴露出很多人在用人工智能技术的时候，特别是那些开源模型的时候，安全意识太薄弱了。那么这些开源大模型到底有啥安全隐患呢？除了开发者和运营方可能有权限访问后台数据外，开源本身虽然促进了技术透明和协作，但也让底层代码漏洞更容易被恶意攻击者盯上利用。 针对这些潜在风险，专家们强调得赶紧加强防护。对于咱们普通网民来说最重要的就是提高安全意识养成好习惯。用互联网上那些公开的人工智能工具时得留个心眼儿，千万不能傻乎乎地上传身份证件、银行卡信息、隐私通讯记录或者未公开的工作文件这类敏感机密资料。 树立“非必要不提供”的原则是保护数据安全的第一关。至于企业、科研机构和政府部门这些机构用户呢就更得下功夫了。王媛媛建议在处理内部数据尤其是训练专属模型的时候要优先考虑私有化部署模式。说白了就是把开源或者自研的模型放在本地或者自己控制的私有服务器集群里运行保存，保证所有的数据和模型都在内网环境中运行并且和外面的互联网隔离开来。 这种方式能从根上断绝核心数据在训练和使用过程中流向外面公共平台的风险。当然私有化部署也需要投入不少硬件设备和专业技术团队来维护升级和安全运维，这对组织的资源和技术能力要求确实挺高。但这肯定是保护核心数据资产、履行安全责任和符合法律法规的必要投资嘛。 总的来说技术的发展得建立在安全基石上。最近的这些案例告诉咱们便捷不能以牺牲安全为代价。无论是个人还是机构都得搞清楚开源人工智能背后的数据安全逻辑得克服麻痹大意的想法。咱们只有在拥抱技术红利的同时牢牢树立总体国家安全观把安全要求贯穿到技术选用、系统部署和日常使用的全过程里不断完善防护策略提升应对能力才能驾驭好这把“双刃剑”让它在安全可靠的轨道上好好为经济社会发展和国家安全大局服务。