
|内容简介
本指引聚焦人工智能智能体(AI Agent)在各类业务场景下部署与使用过程中的新型安全风险,为政企机构提供全生命周期的安全实践规范。随着智能体具备自主规划、工具调用和长期记忆能力,其引发的权限滥用、数据泄露、提示词注入及插件供应链污染等威胁日益凸显。 核心内容涵盖四大维度:一是**风险评估**,系统剖析智能体在感知、决策、执行环节的特有威胁,建立动态评估模型;二是**部署安全**,强调运行环境隔离、最小权限控制、强身份认证及第三方工具的供应链审查,夯实基础设施底座;三是**使用管控**,提出输入输出双向过滤、行为意图审计、人类监督(Human-in-the-loop)机制及异常行为熔断策略,防范智能体失控或越权;四是**运营与应急**,建立持续的安全监测、日志溯源及突发事件响应体系。 本指引旨在帮助各方构建“可信、可控、可溯”的智能体应用生态,在释放AI生产力的同时筑牢安全合规底线,为人工智能产业的高质量发展提供标准化支撑。