AAISM 人工智能安全管理专家认证培训

A. 利益相关者考量、行业框架及法规要求

• 组织结构与整体治理 – 将AI治理嵌入企业整体治理体系
• 角色与职责 – 明确AI项目中的安全、开发、业务等各方责任
• 章程与指导委员会 – 建立AI治理的决策与监督机构
• 识别利益相关者 – 全面梳理AI项目涉及的内外部利益相关方
• 风险偏好与容忍度 – 确定企业在AI应用中的风险承受能力
• 框架、标准与法规 – 理解ISO、NIST、欧盟AI法案等关键标准
• 选择合适框架 – 根据企业需求选择适配的AI治理框架
• AI商业与应用场景 – 识别AI的业务价值与典型应用场景
• 隐私考量 – AI系统中的数据隐私保护要求

B. AI相关的策略、政策与程序

• AI战略 – 制定与企业目标对齐的AI发展策略
• 消费者 vs. 企业应用 – 区分面向消费者与企业内部的AI应用
• 购买 vs. 自建 – 评估AI解决方案的采购与自建策略
• AI政策 – 制定企业级AI使用与管理政策
• 负责任使用 – 明确AI使用的伦理与责任边界
• 可接受使用 – 规范员工与组织对AI工具的合理使用
• AI程序 – 建立AI项目管理的标准化流程
• 实施手册 – 提供AI安全落地的操作指南
• 伦理 – 建立AI伦理框架与决策原则

C. AI资产与数据生命周期管理

• AI资产与数据清单 – 建立AI资产与数据的完整目录
• 库存管理 – AI模型、数据集的版本与状态管理
• 模型卡片 – 为AI模型建立标准化的文档记录
• 数据处理、分类与发现 – 数据识别、分级与敏感数据发现
• 数据增强与清洗 – 提升数据质量的技术与方法
• 数据存储 – 确保AI数据存储的安全与合规
• 数据保护 – 数据加密、访问控制与防泄露措施
• 数据销毁 – 数据生命周期终端的合规处置

D. AI安全项目开发与管理

• 文档化项目计划 – 制定完整的AI安全项目规划
• 安全团队的角色、职责与能力 – 明确安全团队的AI安全职责
• 对现有信息安全的对齐 – 将AI安全与现有安全体系衔接
• 使用AI赋能的安全工具 – 利用AI技术强化安全运营能力
• 指标与管理 – 建立AI安全的度量与管理体系
• 关键风险指标（KRIs）与关键绩效指标（KPIs） – 风险与绩效的量化管理
• 管理报告 – 向管理层汇报AI安全状态

E. 业务连续性与事件响应

• 事件检测 – AI系统安全事件的发现与识别
• 通知 – 事件上报与通知机制
• 事件分类 – 按类型和影响等级对事件进行分类
• 关键性与严重性 – 评估事件对业务的影响程度
• 弹性 – 提升AI系统的故障恢复能力
• 业务连续性计划 – 确保AI服务在中断后快速恢复
• 合规紧急按钮要求 – 满足合规场景下的紧急停止机制
• 针对AI的事件响应剧本 – 为AI场景定制事件响应流程
• 紧急政策/启动决策 – 应急情况下的决策授权机制
• 权限 – 事件响应中的访问与操作权限管理
• 恢复时间目标（RTO）与恢复点目标（RPO）——从AI视角 – AI特有的恢复指标设定
• 灾难恢复 – AI系统的灾难恢复策略
• 测试 – 定期演练与测试响应计划的可行性

A. AI风险评估、阈值与应对

• 影响评估 – 评估AI系统对业务的影响范围与程度
• 合规性评估 – 检查AI系统是否符合法规与标准要求
• 隐私影响评估（PIAs） – 评估AI系统中的隐私风险
• 风险记录与文档化 – 系统化记录AI风险信息
• 可接受风险水平 – 确定企业可接受的AI风险阈值
• 风险处置计划 – 制定风险缓解、转移或接受的策略
• AI应用的关键风险指标（KRIs）与关键绩效指标（KPIs） – 风险与绩效的量化监控

B. AI相关安全策略、政策与流程

• 渗透测试（PEN Test） – AI系统的渗透测试方法
• 漏洞扫描 – AI系统及组件的安全漏洞检测
• 红队演练 – 模拟攻击者视角评估AI系统安全性
• AI系统特有漏洞 – 识别AI特有的安全弱点（如模型窃取、提示注入）
• 对抗性攻击威胁 – 针对AI模型的对抗样本攻击防护
• 威胁情报分析 – 利用威胁情报提升AI安全防御能力
• 由AI驱动的攻击路径与攻击链 – 分析AI加持下的新型攻击手法
• 异常行为识别 – 检测AI系统中的异常行为模式
• 当前威胁态势 – 了解AI安全领域的最新威胁趋势
• 深度伪造（Deep Fakes） – 深度伪造技术的识别与防范
• 内部人员威胁 – 防范内部人员对AI系统的恶意利用
• AI智能代理（AI Agents） – 自主AI代理的安全管理

C. AI供应商与供应链管理

• 软件包与依赖库的风险 – 识别第三方组件与依赖的安全风险
• 供应商尽职调查与合同管理 – 评估供应商的AI安全能力
• 服务等级协议（SLAs） – 明确AI服务的可用性与安全承诺
• 供应商使用规范 – 制定供应商的使用标准与安全要求
• 责任归属模型（提供方 vs. 部署方） – 明确AI供应链中的责任划分
• 第三方、第四方及更深层供应链风险 – 管理多层供应链的安全风险
• 所有权与知识产权 – 确保AI模型与数据的知识产权清晰
• 访问权限控制 – 管理供应商对AI系统的访问权限
• 法律责任界定 – 明确AI应用中的法律与合规责任
• 供应商风险持续监控与变更管理 – 持续跟踪供应商安全状态与变更

A. AI安全架构与设计

• 变更管理 – AI系统的变更控制与影响评估
• 安全开发生命周期（SDL） – 将安全集成到AI开发全流程
• 安全内建（Secure by Design） – 在设计阶段内置安全能力
• 基础设施即代码（IaC）的安全防护 – AI基础设施的代码化安全管理
• 数据流向分析 – 分析AI系统中的数据流动路径与风险
• 经批准的基础模型管理 – 管理AI基础模型的选用与合规
• AI系统与整体架构的连接与交互 – 确保AI系统与现有架构的安全集成

B. AI生命周期管理（如模型选型、训练与验证）

• 模型间连通性测试 – 验证多模型协同工作的安全性
• 模型关联性分析 – 分析模型之间的依赖与关联关系
• 回归测试 – 确保AI模型更新后功能与安全不退化
• 模型测试流程 – 建立标准化的模型测试流程
• 阶段性推进机制 – AI模型从开发到生产的阶段化推进控制
• 测试、评估、验证与确认（TEVV） – AI系统的系统性验证方法
• 模型准确性测试与性能评估 – 确保模型预测准确性与稳定性

C. 数据管理控制

• 数据采集规范 – 规范AI训练数据的采集标准与方法
• 数据管控机制 – 建立AI数据的治理与管控体系
• 防范数据投毒（Data Poisoning） – 防止恶意数据污染AI模型
• 偏见（Bias）识别与缓解 – 检测并消除AI系统中的数据偏见
• 数据准确性保障 – 确保AI训练数据的准确性与可靠性
• 数据位置与合规要求 – 确保数据存储位置满足合规要求

D. 隐私、伦理、可信与安全控制

• 模型可解释性（Explainability） – 让AI决策过程可理解、可追溯
• 隐私保护措施：如被遗忘权、数据主体权利 – 满足数据主体权利要求
• 用户同意机制 – 规范AI系统中的用户同意与授权管理
• 透明度要求 – 确保AI系统的运行透明度
• 决策公平性 – 确保AI决策不受偏见影响
• 伦理准则 – 建立AI应用的伦理准则框架
• 自动化决策治理 – 管理自动化决策的风险与责任
• “人在回路”机制（Human in the Loop） – 关键决策环节保留人工介入
• 可信与安全机制：内容审核 – AI生成内容的审核与管理
• 潜在危害防范 – 预防AI系统可能造成的危害
• 环境影响评估 – 评估AI系统的能耗与环境影响
• 数据最小化与匿名化 – 最小化数据使用并实施匿名化处理

E. 安全控制与监控

• 安全监控指标 – 建立AI安全的监控指标体系
• 控制措施的合理选择 – 针对AI风险选择适配的安全控制
• 控制实施与部署 – 将安全控制落地到AI系统中
• 控制自评估（CSA） – 定期评估安全控制的有效性
• 控制措施全生命周期管理 – 从设计到退役的全程控制管理
• 持续监控机制 – 对AI系统进行持续安全监控
• 安全控制相关的KPI与KRI – 用指标量化安全控制效果
• 技术性防护措施 – 部署防火墙、加密、访问控制等技术手段
• 威胁与控制措施映射 – 将安全控制与具体威胁对应
• 安全意识培训 – 提升团队AI安全意识与能力