1、中国信息通信研究院知识产权与创新发展中心 中国信息通信研究院科技伦理研究中心 2023年12月 人工智能伦理治理人工智能伦理治理 研究报告研究报告 (2023(2023 年年)版权声明版权声明本报告本报告版权属于版权属于中国信息通信研究院中国信息通信研究院，并受法律保护，并受法律保护。转载、摘编或利用其它方式使用转载、摘编或利用其它方式使用本报告文字或者观点的，应本报告文字或者观点的，应注明注明“来源：来源：中国信息通信研究院”中国信息通信研究院”。违反上述声明者，本。违反上述声明者，本院院将追究其相关法律责任。将追究其相关法律责任。前前 言言 伴随人工智能的迅速发展和广泛应用，人类正在进入一

2、个“人机物”相融合的万物智能互联时代，人工智能技术的应用在给人们带来生活和工作便利的同时，也带来了系列伦理挑战。2022 年 3 月，中共中央办公厅国务院办公厅印发关于加强科技伦理治理的意见，对科技伦理治理工作进行了系统部署，将人工智能列入科技伦理治理的重点领域。人工智能伦理是开展人工智能研究、设计、开发、服务和使用等活动需要遵循的价值理念和行为规范。人工智能技术的突破发展，引发了技术应用的伦理争议，特别是生成式人工智能技术的发展应用引发了偏见歧视、隐私侵犯、责任不明、虚假内容传播等伦理挑战。为应对人工智能技术应用带来的风险，世界各国积极推动人工智能伦理国际治理合作。各国政府通过出台人工智能伦

3、理原则、发布人工智能伦理治理指引、提供技术治理工具等加强本国本地区的人工智能伦理治理监管。我国通过积极完善人工智能伦理制度规范，探索人工智能伦理治理技术化、工程化、标准化落地措施，加强人工智能治理国际合作等举措推动人工智能向善发展。人工智能伦理治理是多主体协作的全流程治理，是以敏捷机制协调人工智能发展与安全的重要治理模式。未来一段时期，人工智能伦理治理将与产业创新活动增强协调；多学科多主体参与、分类分级治理、技术工具开发等措施将有效推动人工智能伦理治理机制完善；全民科技伦理素养的提升将有效防范人工智能伦理风险；全球人工智能 伦理治理合作也将推动人工智能技术造福人类。中国信息通信研究院首次发布人

4、工智能伦理治理研究报告蓝皮书。本报告在总结分析人工智能伦理治理相关特点的基础上，对人工智能生成内容、自动驾驶、智慧医疗三个典型应用场景的伦理风险进行分析，并结合国内外人工智能伦理治理实践，提出人工智能伦理治理的四点展望，以期为更加广泛深入的讨论提供参考。目目 录录 一、人工智能伦理治理概述.1（一）人工智能伦理的概念与特点.1（二）人工智能伦理治理的必要性.2 二、人工智能伦理治理关切.5（一）人工智能伦理挑战.5（二）典型应用场景的人工智能伦理风险.7 三、人工智能伦理治理实践.12（一）国际组织人工智能伦理治理方案.12（二）域外国家和地区人工智能伦理治理机制.13（三）我国人工智能伦理治

5、理实践.17 四、人工智能伦理治理展望.21（一）协调人工智能产业创新发展与伦理治理.21（二）完善人工智能伦理治理举措.21（三）提升各主体人工智能伦理风险应对能力.23（四）加强人工智能伦理治理国际交流合作.23 人工智能伦理治理研究报告（2023 年）1 一、人工智能伦理治理概述（一）人工智能伦理的概念与特点（一）人工智能伦理的概念与特点“伦理”是人的行为准则，是人与人之间和人与社会的义务，也是每个人源于道德的社会责任1。伦理作为价值规范，为不同场景的行为提供引导。在科技活动中，伦理从价值引导和实践规范层面指导技术研发应用。人工智能伦理是开展人工智能研究、设计、开发、服务和使用等科技活动

6、需要遵循的价值理念和行为规范。人工智能伦理关注技术的“真”与“善”，并为人工智能发展提供更广阔的讨论空间。人工智能伦理包含价值目标与行为要求两个方面。在价值目标上，人工智能伦理要求人工智能各阶段活动以增进人类福祉、尊重生命权利、坚持公平公正、尊重隐私等为目标。在行为要求上，人工智能伦理要求人工智能技术做到安全可控、透明可解释，在人工智能研发应用各环节强化人类责任担当，提倡鼓励多方参与和合作。人工智能伦理呈现出哲学性、技术性、全球性三大特点。一是人工智能伦理拓展了人类道德哲学反思的边界。人工智能伦理蕴含了人与机器相互关系的伦理思考，拓展人类关于善、理性、情感等问题的探索。人工智能伦理的讨论既包含