刘逸伦-打造自适应AI运维智慧体大语言模型在软件日志运维的研究与实践.pdf

1、打造自适应AI运维智慧体：大语言模型在软件日志运维的实践刘逸伦 华为2012实验室演讲嘉宾刘逸伦华为2012文本机器翻译实验室工程师本科毕业于南开大学，硕士毕业于美国佐治亚理工学院。研究方向包括AI智能运维，大模型质量评估以及大模型提示策略，在相关领域以第一作者、通讯作者身份在ICDE、ICSE、IWQoS等顶级国际会议/期刊发表10余篇论文。目 录CONTENTS1.软件日志运维观点2.自适应智慧体在运维领域面临的Gap3.大模型Prompt引擎助力自适应运维智慧体4.大模型知识迁移打造运维专精模型5.未来畅想软件日志运维观点：智能运维演进趋势是从任务数据驱动到自适应运维智慧体PART 01

2、观点1：软件日志运维是从机器语言向自然语言的转化类类自自然然语语半半结结构构化化本本(1)日志是机器语言：大规模网络、软件系统在运行过程中每天会产生PB级别的日志，这些日志是一些类自然语言的文本，实时描述了设备的运行状态、异常情况。(2)传统网络运维是机器语言的人工翻译过程：为了维护网络的稳定，运维人员会持续监控设备的运行状态，希望准确、及时地检测异常和突发事件。网络日志是设备运行维护最重要的数据源，运维人员通常会通过解读日志中的自然语言、语义信息来发现问题、分析根因。(3)自动日志分析是机器语言的自动翻译过程：日志文本种类繁多、数量庞大，且多数日志为非结构化文本，无法通过人工方式监控和检测全

3、部的日志。更重要的是，分析设备日志需要丰富的领域知识，耗时耗力；简单的规则配置也无法理解文本的语义信息。自然语言机器语言运维对象决策系统事件异常告警自动日志运维ActionActionActionActionAction转化状态报表分析报告根因树表：一些网络基础设施中的日志消息，日志中的详细信息和自然语言有一定的相似性代际输入方法目标研究成果类别第一代离散特征和KPI特征识别及统计算法拟合异常结果Ft-treeLogParse任务数据驱动第二代日志文本生成token深度学习拟合异常结果LogAnomalyLogStamp第三代段落日志和跨域日志预训练语言模型日志语言理解BigLogDa-Par

4、ser第四代原始日志和自然语言文本大语言模型可解释性运维LogPrompt指令驱动第五代自适应运维智慧体：目标自适应、领域自适应、强交互性、可执行性。观点2：智能运维演进趋势：从任务数据驱动到自适应运维智慧体1LogAnomaly:Unsupervised detection of sequential and quantitative anomalies in unstructured logs(IJCAI 2019)2LogParse:Making Log Parsing Adaptive through Word Classification.(ICCCN 2020)3LogStamp:

5、Automatic Online Log Parsing Based on Sequence Labelling.(WAIN Performance 2021)4BigLog:Unsupervised Large-scale Pre-training for a Unified Log Representation.(IWQoS 2023)5DA-Parser:A Pre-trained Domain-Aware Parsing Framework for Heterogeneous Log Analysis.(COMPSAC 2023)6 Logprompt:Prompt engineeri

6、ng towards zero-shot and interpretable log analysis.(ICSE 2024&ICPC 2024)团队repo地址：https:/ 02Gap1:传统智能运维算法依赖于任务标注数据，仅仅是拟合数据，对于新领域无法自适应10当任务训练数据减少时，传统方法普遍出现了预测精度下降。因此，要将其应用到私有系统中，必然需要大量标注数据。在线场景下，由于频繁的软件更新、第三方插件等，大部分产生的日志都是模型未见过的，难以获得足量的历史标注数据，需求模型有自适应能力。Fixing bugsPerformance UpgradingNew featuresGap