大举投资人工智能的企业常常发现,真正的制约因素并非模型能力,而是数据质量、数据血缘和访问控制。基于不一致、重复或分类错误的数据训练或依托的模型,会产生看似自信却以难以察觉的方式出错的结果,直到造成真正的业务损害才会被发现。
为AI而生的治理,而非仅为报表而生
传统数据治理关注的是监管报表的准确性。人工智能时代的治理还必须解决:AI系统被允许访问哪些数据、敏感字段如何被遮蔽或排除在检索之外,以及如何追踪数据血缘,以便错误输出可以溯源到其源数据。
数据目录与分类应被视为任何检索增强型或代理式人工智能部署的先决条件,而非可选文档。访问控制必须延伸至嵌入向量和向量存储,这些往往因包含敏感源数据的衍生内容而被忽视。
贾万信息技术集团(JIG)帮助企业构建数据治理基础,使AI输出的结果足够可信,可以据此采取行动,而不仅仅是在演示中令人印象深刻。