电信终端产业协会：2025大型语言模型管理指南（10页）.pdf

1、 ICS 35.240 CCS L70 团体标准 T/TAF 3202025 大型语言模型管理指南 Large language model management guide 2025-12-05 发布 2025-12-05 实施 电信终端产业协会 发布 T/TAF 3202025 版权声明 本文件的版权属于电信终端产业协会，任何单位和个人未经许可，不得进行技术文件的纸质和电子等任何形式的复制、印刷、出版、翻译、传播、发行、合订和宣贯等，也不得未经允许采用其具体内容编制本团体以外各类标准和技术文件。如有以上需要请与本团体联系。邮箱： 电话：010-82052809 T/TAF 3202025

2、I 目 次 前言.II 引言.III 1 范围.1 2 规范性引用文件.1 3 术语和定义.1 4 基础资源管理.1 5 技术开发管理.2 6 应用运营管理.2 参考文献.4 T/TAF 3202025 II 前 言 本文件按照 GB/T 1.12020标准化工作导则 第 1 部分：标准化文件的结构和起草规则的规定起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由电信终端产业协会（TAF）提出并归口。本文件起草单位：中国信息通信研究院、泰尔认证中心有限公司、蚂蚁科技集团股份有限公司、北京邮电大学、北京科技大学、深圳大学。本文件主要起草人：杨光、李杰强、陈思

3、宇、凌大兵、毕春丽、付娜、张蕾蕾、呼娜英、郭苏敏、刘志鹏、程莹、林冠辰、朱一凡、张晓丽、李若愚、薛刚、常琳、赵昕、于爱鑫、李思桥、王雪、翟国丽、田崇贤、李颖瑶、吴壮飞、王云龙。T/TAF 3202025 III 引 言 近年来，人工智能技术快速发展，大模型、生成式人工智能等产业领域发展活跃，加速推动人工智能产品或服务技术研发与产业落地已成为社会各方关注的重点。2024年6月工信部、网信办等四部委联合印发国家人工智能产业综合标准化体系建设指南（2024版），其中明确提出“加快构建满足人工智能产业高质量发展和人工智能+高水平赋能需求得标准体系”，并将管理标准纳入基础共性标准进行明确要求：“规范人工

4、智能技术、产品、系统、服务等全生命周期涉及的人员、组织管理要求和评价”。当前阶段，大型语言模型作为人工智能技术的主要代表，因其规模可扩展性、多任务适应性、复杂推理能力、知识吸收整合能力等特点，已成为引领新一轮科技革命和产业变革的重要驱动力。尽管大型语言模型具备巨大潜力和广泛应用场景，但在落地应用过程中仍面临诸多挑战，需要从技术、产品、系统、服务等方面，在开发及应用的生命周期各个环节对涉及到的人员、组织的有关管理要求进行规范要求；推动开发团队、算法团队、部署团队、运营团队和风险管理团队共同参与建设研发、部署和运营等各环节标准化管理体系，构建风险识别、检测、管控以及应对处理机制等一系列标准化管理举

5、措，以保障大型语言模型落地应用过程持续稳定有效。本标准结合相关监管需求及组织防范内外部风险需要，为开发、提供和应用大型语言模型的组织，在基础资源管理、技术开发管理、及应用运营管理等方面，所需建立的管理措施提供参考。T/TAF 3202025 1 大型语言模型管理指南 1 范围 本文件规定了大型语言模型的基础资源管理、技术开发管理、应用运营管理等内容，适用于为开发、提供与应用以大型语言模型为核心算法的产品应用或服务（以下简称大型语言模型）的组织（包含大型语言模型厂商、应用大型语言模型的企业等）建立有关管理措施提供参考。2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的

6、条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T 43697 生成式人工智能服务安全基本要求 3 术语和定义 下列术语和定义适用于本文件。3.1 模型训练 model training 利用训练数据，基于机器学习算法，确定或改进机器学习模型参数的过程。3.2 推理 inference 从给定的前提进行论证并得出结论。3.3 问答 question answering 确定以自然语言提供的问题最合适答案的任务。4 基础资源管理 4.1 系统和计算资源 系统和计算资源包括计算任务执行，包括数据处理、模型训练、模型