AI智能体安全治理的认识和实践.pdf

1、AI智能体安全治理的认识和实践中国网络空间协会 卢卫人工智能离身智能具身智能没有身体的智能系统基于计算机或虚拟环境的智能深度学习模型、自然语言处理系统、智能助手。智能机器人人型机器人反身智能人工智能（AI）离身智能（虚拟形态，如ChatGPT）智能体（如Siri、搜索引擎）具身智能（物理形态，如人形机器人）智能体（如无人驾驶汽车、工业机器人）基本概念人工智能（Artificial Intelligence,AI）指通过计算机系统模拟人类智能行为的技术，涵盖学习、推理、决策、感知等能力。其核心目标是让机器完成需要人类智力参与的任务。智能体（Intelligent Agent）指能够感知环境并通过

2、自主决策与环境交互的实体（如软件程序或机器人）。其核心特征是具备目标导向性、环境适应性和行动自主性。智能体是有目标（自主地执行判断）、能感知（数字环境和物理环境）、会思考、采取行动人工智能。思考和行动、自主性的能力，完成一个闭环。核心是几个关键模块（必须要有的能力：决策、规划、长期记忆、工具的调用）定义在不断演进、泛化，理解不完全相同，而且几个智能体联动、组织起来，完成更为复杂任务。人工智能是总纲概念人工智能涵盖所有模拟人类智能的技术，而离身智能和具身智能是其两大分支，分别代表“无实体”和“有实体”的智能形态。智能体是具象化载体智能体可以是离身智能（如虚拟助手）或具身智能（如机器人）的具体实现

3、形式，其本质是通过感知-决策-行动循环完成任务。离身与具身智能的互补性离身智能：擅长抽象推理和大规模数据处理，适用于虚拟场景（如数据分析、语言交互）。具身智能：强于物理环境交互和适应性学习，适用于现实任务（如工业制造、家庭服务）。未来趋势：融合与进化具身智能被认为是强人工智能的关键路径，需结合离身智能的计算能力和智能体的自主性，以实现更接近人类的多模态感知与行动能力。基本概念具身智能（Embodied Intelligence）指依赖物理身体与环境实时互动的智能系统，如人形机器人、无人驾驶汽车。其认知和行为通过感官输入与运动反馈形成，强调“身体-环境-行为”的动态闭环。1945年，法国哲学家莫

4、里斯梅洛-蓬蒂提出了“具身性”概念，指出人是通过身体与周围环境进行互动和感知，进而理解世界。在此基础上，被誉为“AI之父”的英国科学家图灵1950年在其论文计算机器与智能中首次提出具身智能（Embodied Intelligence）这一概念。具身智能主要是基于物理实体，能够与物理世界进行感知和交互，以及有行动的一种智能系统。它区别于DeepSeek或者ChatGPT等离身智能，以及可能存在虚拟空间、数字空间、信息空间的智能。离身智能（Disembodied Intelligence）指无物理实体、依赖纯计算和数据处理能力的智能系统，例如大语言模型（如ChatGPT）、深度学习算法等。其优势在

5、于高速运算和跨领域学习，但缺乏与物理世界的直接交互。反身智能（Reflexive Intelligence）反身智能是指个体或系统不仅能够感知和回应外部世界，还能够反思和调节自己的认知过程。反身智能强调对自身的监控、调整和优化，类似于人类的自我意识和反思能力。人类的思维往往包含“反思”的成分，比如回顾和评估自己的决策，调整自己的思维方式以应对不同的情况。AI的反身智能则是指系统能够监控、评估和修改其行为、决策过程，甚至能够反思和改善其学习机制。反身智能代表了一种更高级的认知能力，能够从多个角度进行自我审视和改进。例如，具有反身智能的AI不仅能够执行任务，还能根据环境和目标的变化进行自我调整，优

6、化决策过程，甚至在面对新的、未曾遇到的情境时做出更高效的响应。Level 1 聊天机器人，具备交谈对话能力的AILevel 5 组织者，能够完成组织工作的AILevel 4 创新者，能够协助发明创造的AILevel 3智能体，能够采取行动的系统Level 2 推理者，像人类一样能够解决问题的AIOpenAi 认为 人工智能的阶段基本概念认识认识实践实践发展 速度惊人 日新月异风险不安全不可控不可靠不透明能力风险多维度评测评估语料质量评估认识认识实践实践发展 速度惊人 日新月异风险不安全不可控不可靠不透明能力风险多维度评测评估语料质量评估当前，人工智能技术正以前所未有的速度重塑人类社会的生产生活