OpenAI在9月9日发布政策文章,主张针对前沿AI建立强制、基于能力的国家安全要求,同时支持独立安全评估、AI审计人员标准、未成年人保护和生物风险防护等立法方向。政策仍会变化,但企业不能等最终法规公布才开始准备。真正可持续的做法,是把模型能力、使用场景和可能损害映射成控制措施,并保存可验证的证据。
监管对象从名称转向能力
同一模型在总结文档和自动操作生产系统时风险完全不同。企业资产清单应记录模型版本、上下文、工具、数据、权限、用户和使用目的,再按网络攻击、生物、隐私、欺诈和关键决策等能力分级。不能仅凭供应商品牌判定安全。
独立评测需要可复现材料
高风险上线前使用内部团队之外的人员或机构测试,评测集包含正常任务、对抗输入、权限绕过和失败恢复。保留提示、环境、模型参数、输出和评分依据。只展示平均准确率不足以说明安全,还要报告最坏情况与未覆盖范围。
保护未成年人要落实到产品
年龄适配不仅是过滤敏感词,还包括默认隐私、使用时长、家长与青少年边界、危机升级和广告限制。产品不能用诱导式设计鼓励过度依赖,也不能把推测的心理状态用于营销。出现高风险对话时应提供明确的人类帮助渠道。
建立模型变更治理
供应商可能在不改变产品名称时更新路由、能力或安全策略。企业要监控版本和发布说明,重大变化触发回归测试、灰度和审批。若模型无法固定版本,则提高输出复核和运行监控,关键流程准备降级模型或人工方案。
把合规证据纳入日常运维
保存数据来源、风险评估、用户告知、访问日志、事故记录、模型卡和供应商合同。控制措施要对应负责人和复查日期。发生事故后能够回答谁在何时使用什么模型、读取哪些数据、执行了什么动作,以及怎样撤销影响。
进一步实施建议
建议企业建立一页式AI系统卡,每个应用包含用途、禁止用途、数据等级、模型版本、工具权限、评测结果、人工复核点和退出方案。季度由产品、安全、法务和业务共同复查。面对尚未确定的法规,不要盲目堆叠流程,而应优先完成资产可见、权限最小、结果可追溯、事故可停止四项基础能力,这些措施在不同制度下都具有长期价值。
落地检查清单
- 按能力与场景分级而非只看模型名称。
- 高风险系统接受独立、可复现评测。
- 未成年人产品采用默认保护设计。
- 模型更新必须触发回归与灰度。