清华大学：我国算法治理政策研究报告（2023）（48页）.pdf

1、 研究团队 研究团队 课题负责人：课题负责人：梁正教授 课题组成员：课题组成员：曾雄、张辉 课题联系人：课题联系人：梁正教授 电话：电话：13911193019 电子邮件:电子邮件: 报告内容仅代表课题组观点和意见，敬请批评指正。摘要 摘要 人类社会已经进入第四次科技革命时代，算法成为新的生产工具，并给生产关系带来深刻变化。由于算法运用具有的扩散性和分散性，同时某些算法结果具有的不可解释性，给社会治理带来挑战。为实现“科技向善”，并将算法关进制度的笼子里，需要坚持公私合作治理的模式，不能仅靠政府机构的单向控制式规制，而是需要充分发挥政府规制与企业自治的双重作用。此外，算法深深嵌入到社会运作的方

2、方面面，算法治理的对象不应局限于平台和算法技术本身，而是需要分析与算法运行发生联系的各个组成部分，比如从主体维度看，包括技术研发者、技术运用者、监管者及消费者等；从技术环节看，包括数据处理环节、算法研发环节及算法落地环节等。只有各个组成部分实现协同治理，才能实现算法系统的“良治”。算法治理也不是一场“打地鼠游戏”，应为算法建立一套体系化的综合治理框架。对此，本报告提出算法治理的五要素，即治理目标、治理主体、治理对象、治理手段和治理模式，并依据此治理框架横向比较其他法域的治理实践、分析我国算法治理现状和未解决的问题以及提出继续完善我国算法治理的政策建议。具体而言，本报告共分为四个部分：第一部分主

3、要分析算法的社会价值与潜在风险，算法犹如一把“双刃剑”，既有正向价值，也有负面效应。治理算法的目标就是要实现趋利避害，因此政府和社会公众对算法价值和风险的认知需秉持“管、促、创”的基本认知逻辑，即坚持守住风险底线的前提下促进算法应用，同时创造条件实现算法创新。第二部分总结和分析欧盟、美国、新加坡以及主要国际标准组织在算法治理方面的实践经验。第三部分以算法治理五要素为维度，重点对比分析欧盟和美国算法治理的相同点和不同点，这些算法治理的最新实践可以为我国构建算法治理框架提供镜鉴。同时分析了我国算法治理现状和未解决的问题。第四部分提出了若干政策建议，包括（1）在治理目标上，实现算法可问责与算法经济高

4、质量发展；（2）在治理主体上，通过部际联席会议制度形成算法治理合力；（3）在治理对象上，从算法应用主体和应用场景角度拓宽算法治理的范围；（4）在治理手段上，补强司法救济和技术治理措施；（5）在治理模式上，优化多元主体参与的协同共治模式。同时对医疗辅助算法和自动驾驶算法的产业发展与治理问题进行了案例分析。算法治理是一项需要持续完善和迭代的系统工程，应结合技术的演进和场景的变化完善治理措施。目前我国针对算法治理集中出台了一些规制措施，其治理效果如何需要追溯和评估，并根据治理情况及时调试治理框架和改进治理措施，治理效果评估是未来研究的一个重点内容。目录目录 一、算法概述与算法治理框架.1（一）算法的

5、定义和分类.1 1.算法的概念.1 2.算法的分类.1（二）算法的经济和社会价值.2 1.助力制造业智能化升级，提升生产效率.2 2.推动商业模式创新拓展，算法成为行业核心竞争力.2 3.算法催生新业态，显著拉动就业.4（三）算法的不确定性影响.4 1.可能的社会风险：算法可能加剧“信息茧房”和数字鸿沟.5 2.可能的经济风险：算法可能加大“数字劳工”合法权益保护的难度.6 3.可能的法律风险：算法可能影响公平正义.7 4.可能的道德风险：算法可能引致“道德困境”和追责难题.8（四）算法治理的概念界定与治理框架.9 1.算法治理的概念.9 2.算法治理五要素框架.10 二、域外（国际组织）算法

6、治理的基本现状与主要案例.10（一）欧盟算法治理现状和案例.10 1.欧盟算法治理的总体思路.11 2.欧盟对算法的治理框架和应用规则.12 3.欧盟将算法治理嵌入数据治理的框架中.13 4.欧洲算法治理最新案例：意大利禁止算法歧视.14（二）美国算法治理现状和案例.14 1.美国没有采取集中的、命令控制式的治理方式.14 2.美国没有统一的监管部门而由各个部门在自己职责范围内规制算法.15 3.美国联邦层面尚没有就算法治理制定专门法律.15 4.美国州层面出台算法治理的各类规章.16 5.美国的非政府组织和行业自律发挥作用.16 6.美国算法治理最新案例：FTC 要求违法主体删除数据和算法.