迎接人工智能的安全挑战(最终版).pdf

1、目 录CONTENTSAI的安全新挑战统筹发展与安全02.03.AI正开辟新的时代AIAI发展到关键期发展到关键期：三岁见大，七岁见老三岁见大，七岁见老AI是新质生产力AIAI新新质生产力质生产力：算算力力 +模型模型 +数据数据 +应用应用算力即权力算力即权力模型显智力模型显智力数据育能力数据育能力应用为势力应用为势力变形金刚成为大语言模型的母体AI耗尽人类数据的预测算力成为国力的象征AI应用是大势所趋，人心所向AI发展是硬道理AIAI发展是强国建设发展是强国建设、民族民族复兴复兴的战略机遇的战略机遇网、数、智全面推进，赋能百业千行，造福千家万户网、数、智全面推进，赋能百业千行，造福千家万户

2、互联网+：叠加效应叠加效应数据要素：乘数乘数效应效应AIAI*：指数指数效应效应每个每个个体个体每个每个家庭家庭每个每个团队团队每个每个学科学科每个每个行业行业每个每个国家国家AI安全是真问题AIAI焦虑引发全球焦虑引发全球关注，安全关注，安全治理治理成为成为当务之急当务之急全球安全忧虑全球安全忧虑安全治理共识安全治理共识安全保障发展安全保障发展科学家科学家：AI教父杰弗里教父杰弗里辛顿从谷歌辞职辛顿从谷歌辞职企业家企业家：马斯克：马斯克公开表示对未来的担忧公开表示对未来的担忧全球民众全球民众：全球：全球大部分民众大部分民众（52%）表达）表达了对了对AI的紧张的紧张强化关键基础设施安全强化关

3、键基础设施安全加强加强AIAI安全和治理研究安全和治理研究推广推广AIAI的向善应用的向善应用全球安全治理全球安全治理“十大热词十大热词”AI技术有高期待未来已来，未来已来，十大难题、亟待求解十大难题、亟待求解谷歌前CEO施密特，1.5亿美元5年计划，资助杰出人才解决AI 2050年碰到的困难问题1 1.解决AI中的科学技术限制及难题2 2.解决AI安全、鲁棒性和性能等问题3 3.将AI安全与控制等与人类目标对齐4 4.让AI赋能人类解决重大的社会挑战5 5.解决AI带来的经济挑战和机会6 6.确保所有人参与AI的发展治理7 7.确保社会负责任使用AI8 8.解决AI带来的地缘政治风险9 9.

4、构建治理体系驾驭AI发展1010.探求AI时代人类生活的终极意义开发既实用又安全并赢得公众开发既实用又安全并赢得公众信任的更有能力和更通用的信任的更有能力和更通用的AIAI（技术发展和安全问题技术发展和安全问题）负责任地开发、部署、使用负责任地开发、部署、使用和竞争和竞争AIAI（社会发展和安全问题社会发展和安全问题）利用利用AIAI来解决人类最大的挑战来解决人类最大的挑战并造福所有人并造福所有人（应用发展和安全问题应用发展和安全问题）让人类和社会系统在让人类和社会系统在AIAI时代时代共同共同演进演进（人类发展和安全问题人类发展和安全问题）开创安全新阶段安全发展的三个阶段：安全发展的三个阶段

5、：ITIT驱动驱动，DTDT驱动驱动和和AIAI驱动驱动数据技术（数据技术（DT）驱动驱动信息技术（信息技术（IT）驱动驱动人工智能（人工智能（AI）驱动驱动网络相对固定，规模，边界防护网络相对固定，规模，边界防护数据价值，流动，内容安全数据价值，流动，内容安全AI呈现智能，效能，自身安全呈现智能，效能，自身安全互联网互联网数据流数据流科技科技智人：智人：Homo Tech展现技术新特点科技变革巨浪迎面而来，安全风险隐患关乎全球科技变革巨浪迎面而来，安全风险隐患关乎全球2121世纪最大困境：颠覆性技术势不可挡，人类不得不因势利导世纪最大困境：颠覆性技术势不可挡，人类不得不因势利导迭代演化性迭代

6、演化性非对称性非对称性通用性通用性自主性自主性呈现安全新图景安全新图景：安全新图景：Security+Safety Security+Safety+Ethics+Ethics机器智能作为灵动因素，改变了安全的内涵和外延机器智能作为灵动因素，改变了安全的内涵和外延现有的非传统安全现有的非传统安全成为传统成为传统未知的新兴安全未知的新兴安全成为现实成为现实颠覆性技术与应用颠覆性技术与应用挑战人类的天理人伦挑战人类的天理人伦传统安全（security）新内涵AIAI已经系统性融入了已经系统性融入了网络攻防每个网络攻防每个