5、AI大模型时代下的智能汽车软件功能安全 - 吴丹丹-外发版(1).pdf

1、安全质量高级总监 吴丹丹 2AI大模型对智能汽车带来的机会与挑战3AI大模型时代下智能汽车软件功能安全探索目录1智能汽车软件功能安全介绍智能汽车软件功能安全介绍1 智能汽车软件功能安全介绍软硬一体电子化硬件机械化软件主导自动化智能化架构集中软件庞大平台软件+应用软件1、架构及接口标准化、兼容性、可扩展；2、软件分层化、模块化、解耦化；3、开源代码使用；需要工具链支撑；4、安全性、可靠性要求高。智能汽车软件发展趋势工程师编写代码；软件生态圈；感知+规划控制的自动驾驶系统；场景复杂、感知AI算法存在不可解释性；.AI发展大模型时代拐点到来AI编写代码；AI生态圈；融合AI大模型和自动驾驶系统；用A

2、I进行场景泛化、用AI解释AI；.功能安全功能型的安全：功能安全&预期功能安全复合型的安全：功能安全&预期功能安全&AI功能安全n 当下软件发展趋势n 未来软件发展趋势n 软件功能安全发展趋势注：功能型安全、复合型安全后面统称为广义的“功能安全”智能汽车软件功能安全介绍ASPICE体系特点：以软件质量为核心的一套方法论；关注过程，侧重双向追溯一致性，流程-计划-实际执行的一致性；流程、模板、检查单。功能安全体系特点：以失效的危害分析与防护为核心的一套方法论；关注过程与技术，侧重故障检测和故障处理的有效性；流程、模板、检查单、指导书。SOTIF体系特点：围绕将未知转化为已知，将不安全转化为安全的

3、一套方法论；关注触发条件，侧重已知场景的验证和未知场景的验证；流程、模板、检查单、指导书。敏捷特点：以需求快速迭代发布为核心的体系；个体和互动高于流程和工具；工作的软件高于详尽的文档；客户合作高于合同谈判；响应变化高于遵循计划。Devops特点：开发、技术运维和质量保障这三方面融合，促进相互之间的沟通、协作与整合；通过协作提高产品开发、测试、发布效率。用户需求系统需求系统架构软件需求软件架构软件编码软件详细单元测试软件集成测试软件合格性测试系统集成测试系统合格性测试实车测试安全分析DFA分析安全分析DFA分析SEooC假设分析故障插入、触发条件devops研发效能CI/CD自动化测试迭代迭代迭

4、代迭代迭代迭代产品需求体系层面 智能汽车软件功能安全介绍模型的模糊性无法规避；训练数据及环境的与实际存在偏差。无穷的场景；新场景带来不可预知的局限性，引发安全问题；标准法规不足以覆盖。支持多种功能和服务，逻辑复杂，失效率高；代码量巨大，流程和效率存在 冲突。应用场景复杂多变功能强大代码繁多AI算法不确定开源代码及linux广泛应用开源代码开发流程无从保障；Linux与传统功能安全要求存在差异。n继承功能安全测试方法；n数据驱动、建立海量场景库、数据库，并不断积累泛化；n逐步建立自动化测试机制，并注重Corner case；n建立中国化标准法规。n继承高内聚、低耦合的设计要求；n创建高效融合的开

5、发流程体系；n采用系统工程思维。n继承功软件开发经验；n输入输出增加故障安全模式；n提高算法的可解释性设计；n提高标注精度，增强算法对抗性训练；n选取关键内容进行功能安全改造；n基于第一性原理思考问题；n用实践数据证明；n借鉴“ALARP”原则，寻求最优性价比。痛点1痛点3痛点2痛点4技术层面AI大模型对智能汽车带来的机会与挑战2 AI大模型对智能汽车带来的机会与挑战AI人工智能机器学习深度学习强化学习n 机器学习：基于统计学方法n 深度学习：基于神经网络n 强化学习：基于奖励的学习方法人工智能人工智能在智能汽车领域应用：智能驾驶：包括感知算法、预测算法、决策算法等。智能座舱：智能影音系统，智

6、能环境控制等。数字孪生：驾驶模拟、预见性维护等。AI大模型对智能汽车带来的机会与挑战过程域基本实践MLE.1机器学习分析定义机器学习需求结构化机器学习需求分析机器学习需求分析对机器学习运行环境影响建立双向追溯，确保一致性沟通已达成一致的的机器学习需求MLE.2机器学习架构开发机器学习架构确定超参数的范围和初始值评估机器学习架构元素定义机器学习架构元素的接口定义机器学习架构元素的资源消耗目标建立双向追溯，确保一致性传达已达成一致的的机器学习架构过程域基本实践MLE.3机器学习训练指定机器学习训练和验证方法创建机器学习训练和验证数据集创建和优化机器学习模型建