1、- 0 -2020 年年 10 月月 26 日第日第31期总第期总第 463 期期人工智能伦理：问题和倡议人工智能伦理：问题和倡议【译者按】【译者按】2020 年 5 月，欧洲议会研究中心发布了人工智能伦理：问题和倡议。该报告定义了关于人工智能的一些基本概念，分析了人工智能对社会、人类心理、金融系统、法律体系、环境和地球、人工智能信任等领域产生的不良影响，可能会引发伦理困境和道德问题，为构建人工智能伦理框架和制度，报告提到了国际社会已经发起的伦理倡议及其危害与问题，并对各国制定的新兴人工智能标准与法规、关于人工智能的国家或国际战略进行了总结，报告最后针对人工智能对各领域的潜在影响，提出了新兴伦

2、理倡议。赛迪智库产业政策法规研究所对该报告进行了编译，期望对我国有关部门和企业有所帮助。【关键词】【关键词】人工智能伦理危害 倡议战略人工智能伦理危害 倡议战略扫描二维码阅读本刊- 1 -一一、人人工工智智能能相相关关基基本本概概念念（一一）人人工工智智能能欧盟委员会发布的人工智能通讯对人工智能的定义为：人工智能（AI）是指“显示智能行为的系统”，它可以分析环境，并行使一定的自主权来执行任务。基于人工智能的系统可以是在虚拟世界运行的纯软件型系统，例如语音助手、图像分析软件、搜索引擎、语音和人脸识别系统，也可以是嵌入人工智能的硬件设备，例如高级机器人、自动驾驶汽车、无人机、物联网应用程序。对于智

3、能，可以简单直接的定义为，智能行为是“在正确的时间做正确的事”。简单来说，智能是“获取、使用知识和技能，与其所在环境进行互动的能力”。具有三个共同特征：一是一种智能体，可与自身所处的环境进行交互；二是与智能体成功实现某种目标或目的的能力有关；三是取决于智能体适应不同目标和环境的能力。一般认为智能包含适应、学习、理解等元素。用最简单的话来说，智能是获取、使用知识和技能，与其所在环境进行互动的能力。“机器学习”指的是有能力学习自身环境的人工智能或有能力适应自身环境的机器人。机器学习通常可分成两种类型：监督- 2 -式学习和非监督式学习。监督式学习系统通常使用人工神经网络（ANN），通过向人工神经网

4、络提供输入信息（例如动物图像）并对人工神经网络进行训练。每条输入信息都会被标记为一条输出信息（例如长颈鹿、狮子、猩猩）。这套输入信息以及与之相匹配的输出信息被称为训练数据集。训练之后，即使该图片未出现在训练数据集中，人工神经网络也有能力识别向其呈现的图片中所包含的动物（例如狮子）。非监督式学习不使用训练数据，人工智能（或机器人）必须自行（通常通过试验和误差）设计出完成某一特定任务的方法。“深度学习”通常指拥有大型（多层）人工神经网络和大型训练数据集的监督式学习系统。机器学习可以用于人工智能的问题，是实现人工智能的一种方法，而深度学习是机器学习的一个重要技术方向。（二二）“道道德德”和和“伦伦理

5、理”伦理是人类行为或活动所适用的道德原则。如，对每个人报以尊重就是一项伦理原则。人工智能伦理的范围包括现有人工智能系统的数据隐私和偏见问题引发的担忧，未来中短期人工智能和机器人对就业和工作场所影响所引发的担忧，以及未来长期人工智能系统达到或超过人类能力（即所谓的“超智能”）所引发的担忧。- 3 -当前，智能手机和人工智能驱动型应用程序越来越普遍，其中许多应用程序是人们日常生活必需的。与此同时，人工智能对各行业（包括工业、医疗、警务、司法、交通、金融、休闲等）的影响越来越大，各国出现了人工智能“军备竞赛”的苗头。为此，提出了一些人工智能倡议，非政府组织、学术界、产业界、专业机构和各国政府都参与了

6、这些倡议的制定。这些倡议公布了许多适用于机器人和人工智能的伦理原则（自 2017 年 1 月以来，全球至少公布了 22 套伦理原则）。英国标准协会和电气与电子工程师协会等也推出了新的伦理标准。二二、人人工工智智能能应应用用引引发发的的主主要要伦伦理理困困境境和和道道德德问问题题（一一）对对社社会会的的影影响响对对劳劳动动力力市市场场产产生生不不利利影影响响。据预测，在未来 20 年，人工智能及其相关技术可能造成大量失业。近期一份报告认为，新兴信息技术在不久的将来会导致众多职业的就业率大幅下滑。自动化已经对“蓝领”工作产生了冲击，随着人工智能在金融、太空、先进制造、运输、医疗卫生等领域的广泛应用