安全大模型发展路径洞察与实践-潘剑锋.pdf

1、安全大模型发展路径洞察与实践2025年3月主讲人：潘剑锋360集团首席科学家、数字安全集团CTOCONTENTS/目录360安全大模型落地实践现阶段如何做好安全大模型？大模型的“快慢思考”大模型的“快慢思考”大语言模型的“理解力”DeepSeek-R1在数学、代码、自然语言等任务上性能可比肩OpenAI-o1模型正式版。在AIME 2024数学基准测试中，DeepSeek R1得分率79.8%，OpenAIo1得分率79.2%。在MATH-500基准测试中，DeepSeek R1得分率97.3%，OpenAI o1得分率96.4%。“统计性”理解在依靠统计获得的文字符号之间的关联关系，是一种语

2、言层面的表象关联1“本质性”理解人类在抽象知识层面依据内容与客观逻辑形成的关联2当前大语言模型表现的“理解力”相通之处：随着语料的丰富，逐步逼近“本质性”理解存在差异：事实性知识、反思型推理等大模型的“快慢思考”参考诺贝尔经济学奖获得者、心理学家丹尼尔卡尼曼（Daniel Kahneman）在其著作思考，快与慢中提出人类大脑处理信息的不同方式。2024年3月，在360安全大模型3.0发布会上，圈内首次公开引入认知心理学的快、慢思考，来说明大模型本身到底擅长做什么、不擅长做什么？大模型的“快慢思考”大模型“快思考”从大量标签（经验）数据中找出统计性规律，从而解决同类问题的过程，我们称之为“快思考

3、”；（一般是快速的、不太耗费资源的、内隐的（无需反省），也是很难控制或修正的）大模型“慢思考”基于“本质性”理解的关联分析过程 一般涉及复杂的计算过程，需要反思、多步骤推理 整体是缓慢的、耗费资源的、不容易出错、存在控制 可能需要结合外部工具、知识调用等2“快思考”“深度思考”基于统计性理解，快速生成“结果”+生成“过程”“慢思考”本质性理解、深度反思、多步推理，消除“快思考”的“幻觉”大模型“深度思考”在问题和答案之间加入大段推理过程，通过推理时计算不断提升生成答案的准确性，我们称之为“深度思考”（类似deepseek-r1,GPT-o1/o3）大模型擅长做什么？目前大模型的价值是很好的模拟

4、了人脑的“快思考”人脑要达到一个比较好的“快思考”效果，需要细分场景，然后进行反复训练，才能达到快速、潜意识判断。“快思考”能力乒乓球训练人脸判定情绪人脑“快思考”能力大模型概率性关联关系自回归序列生成通过海量数据训练，做文字符号层面的统计处理，从数据中找出统计性规律，在概率的意义上掌握学习样本所反映的隐含知识，并以此为基础来生成内容。推理大模型擅长做什么？推理大模型（GPT-o1/o3、DeepSeek-R1等）通过“深度思考”能力，向“慢思考”更近一步“快思考”能力“慢思考”能力“知道”：概率性关联关系“理解”：本质性关联关系“深度思考”能力Long CoT序列推理时计算推理大模型的价值是

5、模拟了“深度思考”，其使得模型的推理向“慢思考”更近了一步。大模型的“深度思考”试图突破在“快思考”阶段，模型训练数据的局限，寻找能力增长的“第二曲线”。结果导向的强化学习方法大模型当前大模型距离“慢思考”还有多远？依靠当前大模型结构，尚未达到“本质性理解”大模型不擅长“慢思考”任务知识的本质性理解调动注意力分析思考速度慢注重规划和反思准确性高人脑擅长“慢思考”“慢思考”的本质：是对事物本质性理解，需借助事实性知识，通过多步推理、反思，是“深思熟虑”的结晶大模型的“深度思考”不是真正的“慢思考”：其并没离开语言模型的框架，依然是自回归单向序列生成在简单任务上，大模型生成的基于表象的统计性理解已

6、经逼近人类的“慢思考”；但在复杂任务上，“快思考”“慢思考”就会产生明显差异大模型不擅长“慢思考”不擅长长链路任务规划不擅长逻辑推理不擅长事实认知不擅长实时反思理想很丰满，现实很骨干现阶段如何做好安全大模型？什么是“真正”的安全大模型？安全大模型干得了通用大模型干不了的安全任务，EDR行为端到端研判、网络流量端到端研判异常行为检测、安全告警降噪、威胁组织归因创新模型结构，优化推理程序，通过专项训练手段，能够“学习”海量安全数据“主任医师”通用大模型的安全领域应用“博学人+医学书”通用大模型：关键信息提取、归纳总结、知识问答安全知识问答、告警结构化解读、报告总结生成自然语言理解、知识库召回，大模