人工智能控制人工智能有助于提升透明性可解释性和可信性（24页）.pdf

1、人工智能治理和道德规范机构对人工智能的有效治理、负责任应用和规模扩张的需求临界点已到来。多数机构已在制订内部政策和治理职能以监管任何与人工智能有关的事项，从而提升企业内部及外部利益相关者团体(包括消费者)的信任和透明度。在英国及欧盟，随着通用数据保护条例的发展，监管建立的趋势已愈加强烈。就此而言，当前正是大好时机，因人工智能的种子已落地生根并开始茁壮成长。目前虽然仍未扩张至预期规模，但这些技术必定会在企业内部和不同行业板块间扩张，并承担越来越多的自主权和责任。现在是时候建立一个围绕信任为基础的治理和道德框架了。人工智能控制有助确保人工智能能力的负责任扩张。治理与道德规范人工智能信任基础的评估和

2、保障可基于全新的、旨在保持机构对人工智能及机器学习算法的控制的领先实务和方法。一个有效的治理战略可通过建立可持续测量人工智能的机制和工具，为信任和透明度打下基础。机构主管将能够在掌握充分信息的情况下作出决策，并在机构中建立更稳固的负责任文化，自觉反映机构的道德规范。人们在深究人工智能的工作方式时会发现很多问题，其中多数与人有关。某些用例为何及如何被选为人工智能的候选?团队为何选择这些特性(而排除另一些特性)?我们应如何计量和展示成功或解释失败?算法为何这样做?谁应对结果负责? “因为这是算法说的算”此说法将不能说服机构主管和社会大众，因这些系统已变得越来越强大和无处不在。机构需要：洞悉大局，从一开始设定正确的基调。若您未为人工智能建立治理或运营模型，您将难以实现理想的业务结果或信赖自身人工智能的完整性、可解释性、公平性或适应能力。就信任和透明度而言机构也应建立人工智能的治理体系。这意味着机构将通过全新视角，以贯穿整个过程的员工、业务流程和技术出发，审视企业架构和治理：从模型的初始阶段至战略制定、交付、监控、训练及能力建设以及持续测量。