随着拟人化互动技术深度融入社会生活,其潜在风险引发监管层高度关注。
国家网信办此次发布的征求意见稿,直指当前行业存在的三大核心问题:一是部分服务模糊人机交互边界导致用户认知混淆;二是未成年人过度依赖引发心理健康隐忧;三是训练数据质量参差不齐可能衍生伦理风险。
深层原因分析显示,技术快速迭代与监管滞后形成明显落差。
据中国互联网络信息中心统计,2023年我国智能交互服务用户规模达6.8亿,其中19岁以下占比21.3%。
部分平台通过情感绑定机制提升用户黏性,但缺乏必要的风险防控设计,这种"重体验轻责任"的发展模式亟待规范。
人工智能拟人化互动服务管理办法的制定,标志着我国在新兴技术治理领域迈出重要步伐。
在数字化转型加速推进的时代背景下,如何在鼓励创新与防范风险之间找到最佳平衡点,考验着监管智慧。
此次征求意见稿以保护用户特别是未成年人权益为核心,构建了相对完整的制度体系,为行业规范发展奠定了基础。
随着公众意见的充分征集和政策的不断完善,相信能够推动人工智能技术更好服务社会发展和民生改善。