网络安全

当前位置: 部门首页 >> 网络安全 >> 正文

网络法治须与技术创新同频共振

人工智能技术的创新迭代,对现行网络安全法治体系提出了更高的延展性要求,即网络安全规范体系应当与人工智能技术保持同步规划、同步发展的状态。现行的网络安全法等法律法规已逐渐明确了核心治理逻辑和治理规则,因此当下的工作重点除了“立法”更要“释法”,即明确现有网络安全法律条款如何适用于智能体安全风险治理实践。

第一,网络安全法治体系需要延展网络安全风险的分级分类框架,为不同风险等级的智能体行为设置差异化的保护措施。例如,对于资金流出、安全配置修改等风险极高的行为,可一律禁止智能体自主执行;对于邮件回复等行为,则需要由人来进行最终确认。同时,要对不同领域的风险容忍度进行分级,在此基础上出台智能体技术应用的负面清单,并根据技术发展、产业动态等因素适时调整。如对涉及国家安全、金融安全及关键信息基础设施等高风险敏感领域,应明确禁止使用端侧智能体;对风险容忍度相对较高的领域,则可基于行业特征,明确不得使用智能体的具体场景。

第二,网络安全法治体系需要扩展智能体网络安全漏洞的专项治理措施。具体而言,可以考虑将提示词注入、视觉对抗攻击、数据“投毒”及其他针对多模态大模型感知、推理技术特征的攻击方式,纳入网络安全法所述的“恶意程序”和“安全缺陷、漏洞”范畴,从而将其纳入人工智能安全法律规制范围。

第三,网络安全法治体系需要囊括智能体开源社区与开源平台的主体责任。开源社区应当塑造开发者“技术向善”的伦理规范,防范开源社区和开源平台成为网络攻击的重灾区或中转站,通过社群规范等方式,强化安全风险提示与说明。

智能体应用的网络安全治理,既关系到人工智能产业的创新发展,也关系到我国现代化治理能力和治理水平的提升。面对智能体等人工智能技术难以预料的创新周期和发展方向,网络安全法治体系需以更灵活、全面的方式,预防相伴而行的风险,同时也要为技术创新预留探索空间,最终实现技术创新与法治体系的一体化发展。

返回顶部