سمّوا مسؤول الفشل قبل اعتماد سير عمل للذكاء الاصطناعي
يحدد التقييم القابل للقرار ما الذي يعد فشلا ومن يراجعه وما الدليل الحاسم وما الخطوة التالية.
6 دقائقينبغي أن يتبع الاعتماد مسارا محددا للفشل، لا درجة جودة واحدة.
حددوا شرط الفشل
اكتبوا الحالة التشغيلية التي يجب فيها إيقاف النظام أو طلب المراجعة أو إعادة العمل إلى شخص. اربطوا الشرط بقرار يستطيع الفريق ملاحظته.
- سمّوا القرار الذي يمكن للنظام دعمه
- أدرجوا المخرجات غير الآمنة والناقصة وخارج النطاق
- حددوا الدليل المطلوب لتصنيف كل مخرج
عيّنوا مسار المراجعة
يحتاج المراجع إلى قائمة واضحة وسياق المصادر وراء المخرج ومسار تصعيد. الملكية جزء من الضبط وليست ملاحظة تضاف بعد التقييم.
- حددوا المراجع المسؤول والبديل
- اعرضوا المصادر ومخرج النموذج وحالة السياسة معا
- سجلوا قرارات الاعتماد والرفض والتصعيد والتأجيل
سجلوا قرار الإصدار
يجب أن يجعل سجل القبول الحدود المتبقية واضحة للمشغلين ولمن سيحافظ على النظام. يمكن أن يكون الإصدار محدد النطاق دون الادعاء بأن كل حالة محلولة.
- اربطوا الحالات المقيمة بقرار القبول
- أدرجوا القيود غير المحلولة ومسؤول كل منها
- حددوا إجراء التراجع أو الإيقاف عند فشل حالة