1、 1 混合 AI 是AI 的未来 2023 年 5 月 第二部分：高通在推动混合 AI 规模化扩展方面独具优势 2 目录 1 摘要.3 2 高通技术公司是终端侧 AI 的领导者.3 2.1 持续创新.4 2.1.1 我们 AI 技术的发展历程.4 3 我们在终端侧生成式 AI 领域的领导力.4 3.1 突破终端侧和混合 AI 边界.5 3.2 负责任的 AI.5 4 卓越的终端侧 AI 技术和全栈优化.6 4.1 算法和模型开发.7 4.2 软件和模型效率.7 4.2.1 量化.9 4.2.2 编译.9 4.3 硬件加速.10 5 无与伦比的全球边缘侧布局和规模.11 5.1 手机.12 5.

2、2 汽车.12 5.3 PC 和平板电脑.12 5.4 物联网.13 5.5 XR.13 6 总结.13 3 1 摘要 正如白皮书第一部分所言，在云端和终端进行分布式处理的混合 AI 才是 AI 的未来。混合 AI 架构，或仅在终端侧运行 AI，能够在全球范围带来成本、能耗、性能、隐私、安全和个性化优势。高通正在助力实现随时随地的智能计算。高通技术公司作为终端侧 AI 领导者，面向数十亿手机、汽车、XR 头显与眼镜、PC 和物联网等边缘终端提供行业领先的硬件和软件解决方案，对推动混合 AI 规模化扩展独具优势。高通的硬件解决方案具有行业领先的能效，智能手机解决方案的能效与竞品对比，大约有两倍的

3、优势。凭借一系列基础研究，以及跨 AI 应用、模型、硬件与软件的全栈终端侧 AI 优化，我们的持续创新让公司始终处于终端侧 AI 解决方案的最前沿。高通技术公司还专注于为全球数十亿、由高通和骁龙平台支持的终端提供开发和部署的简便性，从而赋能开发者。利用高通 AI 软件栈，开发者可以在我们的硬件上创建、优化和部署 AI 应用，一次编写即能实现跨我们芯片组解决方案的不同产品和细分领域进行部署。凭借技术领导力、全球化规模和生态系统赋能，高通技术公司正在让混合 AI 成为现实。2 高通技术公司是终端侧 AI 的领导者 凭借赋能数十亿边缘终端的终端侧 AI 领导力，高通技术公司正在助力打造混合 AI 新

4、时代。可扩展的技术架构让我们能够采用一个高度优化的 AI 软件栈即可在不同终端和模型上进行工作。我们的 AI 解决方案旨在提供最佳能效，让 AI 无处不在。高通 AI 引擎是我们终端侧 AI 优势的核心，它在骁龙平台和我们其他众多产品中发挥了重要作用。高通 AI 引擎作为我们多年全栈 AI 优化的结晶，能够以极低功耗提供业界领先的终端侧 AI 性能，赋能当前和未来的用例。搭载高通 AI 引擎的产品出货量已超过 20 亿，赋能极为广泛的终端品类，包括智能手机、XR、平板电脑、PC、安防摄像头、机器人和汽车等。1 高通 AI 软件栈将我们所有相关的 AI 软件产品集成在统一的解决方案中。OEM 厂

5、商和开发者可在我们的产品上创建、优化和部署 AI 应用，充分利用高通 AI 引擎性能，让 AI 开发者创建一次 AI模型，即可跨不同产品部署。1 https:/ 骁龙和高通品牌产品是高通技术公司和/或其子公司的产品。4 2.1 持续创新 我们开发的低功耗、高性能 AI，已经形成了一个跨智能手机、汽车、XR、PC、笔记本电脑以及企业级 AI 等现有市场和新兴领域的庞大终端 AI 生态系统。多年来，我们在照片与视频拍摄、先进连接、语音指令、安全和隐私等关键用例领域，持续利用 AI 赋能芯片组产品、打造差异化优势，以获得市场领先地位。2.1.1 我们 AI 技术的发展历程 高通深耕 AI 研发已超过

6、 15 年。在高通 AI 研究2，我们的使命是实现 AI 基础研究突破，并实现跨行业和用例的规模化扩展。高通正在推动 AI 进步，让感知、推理和行为等核心能力在终端上无处不在。我们的重要 AI 研究论文正在影响整个行业，推动高能效 AI 发展。通过汇聚领域内的杰出人才，高通正在不断突破 AI 可能性，塑造 AI 的未来。图1：高通持续的AI研发投入是产品领导力的基础。3 我们在终端侧生成式 AI 领域的领导力 多年来，高通 AI 研究团队一直在探索生成式 AI。生成式 AI 可追溯到生成式对抗网络（GAN）和变分自编码器（VAE）。最初，我们探索了生成式模型是否能够很好地压缩，并进一步提升生成