يُدخل الذكاء الاصطناعي التوليدي مخاطر تختلف جوهرياً عن البرمجيات التقليدية: المخرجات احتمالية لا حتمية، ويمكن أن تتسرب بيانات التدريب والتأسيس إلى الاستجابات، ويمكن التلاعب بالنموذج عبر مدخلات مصممة بعناية بطرق لا تستطيعها التطبيقات التقليدية.
ما ينبغي أن يكون في القائمة
ينبغي أن تتطلب قائمة تحقق حوكمة عملية مراجعة تصنيف البيانات قبل استخدام أي محتوى لتأسيس النموذج أو ضبطه الدقيق، واختباراً لمقاومة حقن الأوامر والاختراق يتناسب مع حساسية حالة الاستخدام، وبوابات مراجعة بشرية لأي مخرج يُبنى عليه قرار عمل جوهري.
يستحق اختيار المورد والنموذج تدقيقاً مساوياً: فهم ما يحدث للبيانات المُرسلة، وما إذا كانت تُستخدم لمزيد من التدريب، وما الضمانات التعاقدية القائمة حول السرية وإقامة البيانات.
تساعد JIG المؤسسات على بناء قوائم تحقق حوكمة وضوابط تقنية تتيح لمبادرات الذكاء الاصطناعي التوليدي التقدم بسرعة دون تهور.