如何在人工智能领域拥抱开源价值观.pdf

1、OSPO Summit如何在人工智能领域如何在人工智能领域拥抱开源价值观拥抱开源价值观张家驹张家驹Red Hat Red Hat 首席架构师首席架构师人工智能前景及其挑战克服混合 AI 策略中硬件、框架和模型的锁定资料来源：2024 年规模化 AI 基础设施状况(ClearML，2024 年)避免供应商锁定和数据重力陷阱（Infoworld，2023 年 2 月 22 日）为什么开源对于负责任的人工智能发展至关重要（世界经济论坛，2023 年 12 月 22 日）969663%63%9595的公司目前正在或计划在 2024 年定制开源模型的公司报告称，快速整合新技术的能力是保持行业竞争优势的关

2、键因素Nvidia 在机器学习 GPU 市场的大致份额（CB Insights）企业力求在技术选择上保持灵活性企业力求在技术选择上保持灵活性，但他们面临着硬件、模型和框架等技术护城河的挑战。对单一硬件供应商的依赖会抑制灵活性，使企业容易受到供应商的定价和创新时间表的影响。硬件锁定硬件锁定开发框架锁定开发框架锁定依赖专有人工智能模型会限制适应新数据环境、利用更广泛的模型创新的能力，并且由于缺乏透明度而引发道德问题。模型锁定模型锁定过度依赖 NVIDIA 的 CUDA 等专有开发框架可能会阻碍与其他技术的集成并限制对创新工具的访问。3对开源人工智能的需求植根于透明、协作和共享创新原则的变革潜力资料

3、来源：2023 年开源生成式 AI 调查报告（Linux 基金会，2023 年 12 月）开放 ChatGPT：在指令调整的文本生成器中跟踪开放性、透明度和问责制（Andreas Liesenfeld、Alianda Lopez 和 Mark Dingemanse，2023 年）4949的组织认为安全性是迄今为止采用 GenAI 的最大障碍69%69%的公司认为，开源 GenAI 技术将改善其组织的数据控制和透明度9595的组织认为在开发 GenAI 技术时采取中立的治理方法非常重要3 3 个驱动力个驱动力实现跨模型、数据和流程的透明度。通过提供可访问的模型和数据来促进问责制，从而提高透明度。

4、透明度和可访问性透明度和可访问性确保人工智能创新符合道德且公平，不被少数实体所主导。中立治理中立治理安全与信任安全与信任“目前可用的不同 GenAI 模型的开放程度可能有很大差异，但大多数可能不会获得开源称号，因为底层代码、数据、模型和文档的可用性和访问权限很少。”但是我们所说的开放人工智能模型的真正含义是什么呢？目前尚未就开源人工智能达成一致标准，但已就开放实践达成一致资料来源：深入分析：人工智能的开源实践（CNIL，2023 年）开放 ChatGPT：在指令调整的文本生成器中跟踪开放性、透明度和问责制（Andreas Liesenfeld、Alianda Lopez 和 Mark Ding

5、emanse，2023 年）包括代码、训练数据、模型权重、用于 RLHF 的数据、与强化学习相对应的权重或所使用的许可证的发布。模型元素的可用性模型元素的可用性模型文档模型文档通过公共库或提供支持对模型进行查询的 API（注意：由于要在模型上进行推理计算，可能需要付出昂贵的努力）访问模型访问模型代码的文档、模型的架构、出版物的存在、模型的描述表或数据的描述表。模型开放框架是人工智能安全的关键推动因素依据模型的透明度、可重复性和可用性对模型的开放性和完备性进行分类和评估。资料来源：模型开放框架：促进人工智能的完整性和开放性，实现可重复性、透明度和可用性(LF AI&Data，2024 年 8 月

6、 14 日)模型开放框架通过以下方式促进安全的人工智能开发：确保透明度：确保透明度：公开分享模型内部、数据和评估结果，减少了人工智能模型的“黑箱”性质，从而提高了信任度和责任感。促进可重复性：促进可重复性：通过共享所有生命周期组件，其他研究人员可以验证和复制结果，帮助识别和解决与公平性、偏见或安全性相关的任何问题。允许审计：允许审计：公开的模型和数据允许外部方审计模型是否存在偏见或风险，从而促进道德的人工智能发展。它还可以通过打击误导性的开放主张来减轻“开放洗涤”的影响。6I