金融服务机构数十年来一直运行着正式的模型风险管理项目,其核心建立在独立验证、持续性能监控,以及对影响放贷、交易和风险决策的模型明确问责的基础之上。随着生成式和预测式人工智能渗透到各行各业的招聘、客户服务和运营决策等职能领域,那些缺乏这类监管历史的组织正逐渐意识到,自己也需要类似的管理规范——只不过目前还没有监管机构强制要求而已。
借鉴其架构,而无需承担完整的监管负担
模型风险管理的核心实践,可以很好地推广到金融领域之外:对生产环境中每一个模型及其所影响的决策进行清点造册、在部署前进行独立验证而非仅依赖开发团队自身的测试、随着真实世界数据与训练数据出现偏差而持续监控性能漂移,以及对任何模型的结果明确问责,而非将模型视为无人负责的自主黑箱。
实践中通常的起点是建立模型清单,因为许多组织常常惊讶地发现,生产环境中已经运行着如此多受人工智能影响的决策,却从未有人对其风险进行过正式评估。
贾万信息技术集团(JIG)帮助企业构建人工智能治理项目,将行之有效的模型风险管理规范,调整适配到其特定的监管与运营环境之中。