AI导读:

全国政协委员齐向东在大会上提出,应以“AI+安全”双轮驱动现代化产业体系。随着人工智能的深入发展,安全能力必须同步升级。AI应用正迅速进入大众终端,数据安全问题的复杂性被进一步放大。AI系统重塑人与系统之间的权限关系,安全与规则必须同步建立。

  3月7日下午,全国政协十四届四次会议举行第二次全体会议,全国政协委员、全国工商联副主席齐向东在大会发言中提出,应以“AI+安全”双轮驱动,筑牢现代化产业体系的根基。齐向东委员表示,我国产业体系正处在由大到强、由全到优的关键跃升期,向现代化产业体系跃升,既是一场技术迭代,也是安全能力的系统性重塑,要以“安全前置”为核心导向,构建全链条、多层次的安全保障体系。技术依赖及新技术伴生的安全风险,是产业体系转型过程中面临的突出挑战。随着人工智能深入生产、流通和服务环节,安全能力必须同步升级,否则智能化进程越快,潜在风险也可能越大。这样的提醒并非杞人忧天。过去一年,大模型能力持续提升,一种新的技术形态AI智能体快速发展,其可以持续运行、调用系统资源并执行任务,甚至具备一定程度的自主决策能力,从自动整理资料到远程操作软件,都可以做到。在智能化浪潮中,AI应用正迅速进入大众终端,当AI手机可能面向数亿用户普及时,数据安全问题的复杂性将被进一步放大。不同厂商采用的技术路径不完全相同,这也对数据安全提出了新的挑战。可以看到,无论是工业互联网中的AI系统,还是消费端的AI手机助手,本质上都在重塑人与系统之间的权限关系。当人工智能开始拥有更高权限时,安全与规则必须同步建立。