|内容简介

本报告聚焦大模型向自主智能体演进过程中的前沿安全挑战，系统剖析了智能体在感知、规划、执行及多体协同环节的新型风险。随着AI从“内容生成”迈向“自主行动”，传统安全边界被打破，提示词注入、工具调用越权、记忆投毒、目标对齐失效及数据泄露等动态执行层面的威胁日益凸显。 针对上述挑战，报告构建了一套涵盖“内生安全、运行时防护、生态治理”的三维防御框架。技术层面，提出基于意图识别的输入过滤、细粒度权限管控、沙箱隔离执行及多智能体共识校验等创新机制；管理层面，强调全生命周期的安全合规，倡导建立常态化红蓝对抗与动态风险评估体系。 此外，报告深入探讨了智能体安全标准建设与伦理规范，为产业界提供了从架构设计到落地部署的实操指南，旨在推动AI产业在“发展与安全并重”的轨道上行稳致远，为下一代可信智能体生态的构建提供前瞻性理论支撑与实践路径。