1、治理人工智能，助力造福人类2024 年 9 月治理人工智能，助力造福人类：最后报告版权所有 2024联合国保留所有权利未经出版方书面许可，不得以任何电子或机械形式或方式，包括影印、录制或任何已 知或待发明的信息存储或检索系统，复制或传播本出版物全文。如欲转载节选内容或影印，请联系版权结算中心（）。如欲了解包括附属权在内的权利和许可信息，请联系：United Nations Publications,405 East 42nd Street,S-011FW001,New York,NY 10017,United States of America.电子邮件：permissionsun.org；网

2、址：shop.un.org本出版物所使用的名称与材料的编排方式，并不意味着联合国秘书处对任何国家、领土、城市或地区 或其当局的法律地位，或者对其边界或界限的划分表示任何意见。eISBN:9789211068863治理人工智能，助力造福人类最后报告4治理人工智能，助力造福人类 关于人工智能高级别咨询机构2020年，在联合国秘书长的数字合作路线图（A/74/821）下首次提出了建立多利益攸关方人工智能高级别咨询机构的提议，机构于2023年10月成立，负责分析人工智能国际治理问题，并就此提出建议。咨询机构的成员以个人身份而非作为各自组织的代表参加。本报告代表多数成员的共识；并不期望任何一位成员认可本

3、文件中的所有观点。成员申明，他们就报告中的结论和建议达成了广泛而非单方面的一致意见。本报告所用措辞并不意味着成员所在组织在机构层面予以认可。5最后报告关于人工智能高级别咨询机构执行摘要1.全球治理的必要性2.全球人工智能治理差距3.加强全球合作A.统一认知B.共同基础C.共享惠益D.协同努力E.对制度模式的反思4.行动呼吁1.导言A.机遇和推动因素B.利用人工智能造福人类的关键推动因素C.治理是关键推动因素D.风险和挑战E.人工智能的风险F.有待克服的挑战2.全球治理的必要性A.国际人工智能治理的指导原则和职能B.新兴的国际人工智能治理格局477888101216171819242020202

4、025303032目录6治理人工智能，助力造福人类 3.全球人工智能治理差距A.代表性差距B.协调方面的差距C.执行方面的差距4.加强全球合作A.统一认知国际人工智能科学小组 B.共同基础人工智能治理政策对话人工智能标准交流中心C.共享惠益能力发展网络全球人工智能基金全球人工智能数据框架D.协同努力在联合国秘书处内设立人工智能办公室E.对制度模式的反思国际人工智能机构?5.结论：行动呼吁附件A：人工智能高级别咨询机构成员附件B：人工智能高级别咨询机构的职权范围附件C：2024 年咨询活动清单附件D：“深入研究”清单附件E：全球风险脉动调查的答复附件F：机遇扫描答复附件G：缩略语表3434353

5、6383942424244465152545658585962636465666777837最后报告执行摘要一 人工智能正在变革我们的世界。这套技术具有巨大的向善潜力，从开辟新的科学探索领域和优化能源网络，到改善公共卫生和农业，乃至促进在实现可持续发展目标方面取得更广泛的进展。二 但若不予监管，人工智能的机遇可能就无法显现或得到公平分配。由于数字鸿沟不断扩大，可能只有少数国家、企业和个人能从人工智能中获益。错失利用机会，即由于缺乏信任或缺失推动因素（如能力差距和无效治理）而未能利用和分享人工智能的相关惠益，则可能会限制机遇空间。三 人工智能还带来了其他风险。人工智能的偏见和监视伴随着新的担忧，

6、例如大型语言模型的虚构（或“幻觉”）、人工智能增强的虚假信息生成和传播、对和平与安全的风险以及人工智能系统在气候危机时期的能耗。四 快速、不透明和自主的人工智能系统对传统监管体系构成挑战，与此同时，这些日益强大的系统可能会颠覆工作领域。自主武器和人工智能在公共安全领域的使用引发了严重的法律、安全和人道主义问题。五 目前，人工智能全球治理存在缺陷。尽管就伦理道德和原则开展了大量讨论，但各种零散的规范和机构仍处于起步阶段，而且充满漏洞。问责制的缺失常常引人注目，包括在部署影响他人且不可解释的人工智能系统方面。合规往往基于自愿；言行前后矛盾。六 正如我们在中期报告1中指出的，人工智能治理不仅对于应对