美国多个州和联邦层面正在推动前沿AI安全框架，核心方向包括高能力模型评估、风险缓解、事件报告和共同基线。对普通企业而言，不需要等待法规完全定稿才行动。只要使用大模型处理客户数据、自动执行操作或影响重要决策，就应该准备一套能说明“用了什么、如何测试、谁批准、出了问题怎么办”的风险证据包。
先做模型与用途清单
记录供应商、模型版本、部署区域、数据类型、调用工具、业务负责人和使用人群。相同模型用于文案与贷款审核，风险完全不同，因此清单要以具体用途为单位。
区分实验、内部辅助和对外自动决策。高风险用途必须说明人工参与、申诉和退出方式。影子使用和个人账号也纳入盘点，避免部门绕过采购形成不可见风险。
建立可重复评测证据
保存准确性、安全、偏见、隐私、提示注入和工具越权测试。测试集来自真实业务并包含边界案例，记录模型、提示、参数、日期和结果，不能只保留最终分数。
模型更新后执行回归测试。供应商报告可作参考，但不能代替自身场景验证。错误后果高的任务设置独立规则和人工复核，并证明这些控制实际生效。
事件与变更管理
定义需要报告的事件，例如敏感数据泄露、自动决策错误、未经批准的外部操作和大规模错误内容。建立暂停、隔离、取证、通知和恢复流程，明确责任人与时限。
模型、提示词、工具、知识库和权限变化都可能改变风险。重大变更需审批和灰度，日志保留足够信息用于复盘，同时对个人数据脱敏。
把治理变成可操作流程
采购合同确认数据用途、保留、删除、区域、分包商和安全事件通知。技术侧使用最小权限、短期凭据、预算上限和审计日志；业务侧公开AI参与、人工渠道与纠错方式。
证据包按季度更新，包括系统卡片、评测、审批、事件、培训和供应商文件。目标不是堆文档，而是发生质疑时能快速回答系统如何工作、风险如何被控制。
落地检查清单
- 按具体用途登记模型、数据与负责人。
- 保存可复现评测而非只有结论。
- 建立事件暂停、取证和通知流程。
- 重大变更必须重新评测与灰度。
