积极防范人工智能带来的安全新挑战

　　积极防范人工智能带来的安全新挑战人工智能正日益成为新质生产力的重要要素和核心驱动力，推动生产方式和生产关系发生深刻变革。

　　当前，一系列人工智能交叉领域的重大突破正在重新定义人类社会的数据交互、多模态生成、智能制造、信息连接和智算资源范式。

　　以VisionPro为代表的空间计算、以Sora为代表的生成式人工智能、以Figure(01为代表的具身机器人、以Starlink为代表的天地一体化网络和以GB200为代表的算力基础设施，都昭示着以人工智能为代表的战略性新兴科技产业集群对传统生产力和生产关系格局的重塑已成为不可逆转的趋势。

　　人工智能新质生产力急速崛起，数字技术与实体经济加速融合，智能化发展成为社会共识。

　　人工智能技术的广泛应用，在促进数字社会发展的同时，也为网络攻击带来了新的途径和手段，并引发一系列亟待应对的安全挑战，比如，“奶奶漏洞”可以绕过人工智能伦理提示词攻击、GPU算力芯片可被侧信道攻击、大模型深度伪造诈骗、生成式人工智能生成虚假新闻等，这些网络安全事件都暴露出人工智能安全问题的新变化。

　　导致网络攻击加剧主要有以下三方面原因：

　　一是人工智能赋能网络攻击手段升级。

　　网络攻防技术呈现自动化、智能化、体系化快速演进等趋势，网络攻击更加隐蔽高效：二是人工智能系统自身安全挑战凸显。

　　人工智能系统自身也面临数据中毒、模型窃取、算法歧视等诸多安全风险，网络攻击更加多变