مرجع للفرق التنفيذية لتحديد المخاطر الخاصة بالنماذج التوليدية قبل النشر.
ماذا نعرف من المصدر؟
نشر NIST في يوليو 2024 ملفًا خاصًا بالذكاء الاصطناعي التوليدي مكمّلًا لإطار AI RMF الأصلي.
تشرح الوثيقة طبيعة المخاطر المحتملة في تصميم ونشر وتشغيل أدوات الذكاء الاصطناعي التوليدي وتقدم أنشطة مقترحة لإدارتها.
يهدف الملف إلى توجيه إجراءات المؤسسات وفق نوع الاستخدام والأهداف والمخاطر، وليس فرض نموذج واحد على جميع القطاعات.
بطاقة التحقق
- الحالة الموثقة
- وثيقة منشورة
- الجهة المصدر
- المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST)
- تاريخ المصدر
- ٢٦ يوليو ٢٠٢٤
- نطاق التغطية
- عالمي
لماذا تهم هذه الخطوة؟
من الأسئلة التنفيذية الأساسية: ما البيانات التي يراها النظام، وما آلية الاعتراض على مخرجاته، وكيف يجري اختبار الأخطاء وتوثيق الاستجابة للحوادث؟
ما حدود الاستنتاج؟
لا تثبت الإشارة إلى الإطار أن مؤسسة ما اجتازت تدقيقًا مستقلًا أو تضمن خلو النظام من الأخطاء.
ما الذي يستحق المتابعة؟
اعتماد سجلات اختبار وقياس ومراجعة بشرية تتناسب مع حساسية الاستخدام المؤسسي.
المصدر الأصلي
رابط الإسناد يقود إلى الجهة الأصلية، وقد تتغير صفحات المصادر لاحقًا خارج سيطرة الناشر.
