مِرفَد السياديالرئيسية

مقالات التقنيات · أكتوبر 2026

تقييم مخرجات الذكاء الاصطناعي: من الإجابة الواثقة إلى اختبار موثّق

كيف تقيّم مخرجات الذكاء الاصطناعي؟ دليل مِرفَد لاختبار صحة الوقائع والمصادر وحالات الفشل والمراجعة البشرية قبل اعتماد نتائج مشروع SASA AI.

حوّل الهدف إلى أسئلة قابلة للفحص

في مهمة تلخيص، افحص حفظ الوقائع الأساسية وعدم إضافة معلومات من خارج المستند. وفي إجابات مبنية على مصادر، افحص أن المصدر موجود ويدعم الإجابة. حدّد معيار القبول بحسب المهمة وأثر الخطأ؛ جودة الأسلوب أو سرعة الإجابة لا تكفيان للحكم على الصحة.

اختبر الحالات الصعبة أيضًا

جهّز أمثلة مصرحًا باستخدامها تشمل معلومات ناقصة ومصادر متعارضة وأسئلة خارج النطاق. دوّن النتيجة المتوقعة قبل إجراء الاختبار، بما فيها الحالات التي يكون فيها الامتناع أو طلب التوضيح أفضل من التخمين. لا تعرض الأمثلة التعليمية على أنها اختبارات منشورة لمِرفَد.

المحتوى الخارجي ليس تعليمات موثوقة

يضع OWASP حقن التعليمات ضمن مخاطر تطبيقات النماذج اللغوية. قد يحتوي مستند أو نص مسترجع على تعليمات مضللة؛ ينبغي التعامل معه كمادة للفحص، لا تفويض لتنفيذ أفعال أو كشف معلومات. اختبر هذا النوع من المدخلات في بيئة آمنة دون أسرار حقيقية.

وثّق النتيجة وحدودها

سجّل مجموعة الأمثلة وإعدادات التجربة ونوع الأخطاء وكيف عولجت، وقارن النتيجة ببديل مناسب مثل مراجعة بشرية أو بحث تقليدي. رقم نجاح بلا تعريف للمقياس وحجم العينة لا يبرهن على الأداء في كل الاستخدامات. تساعد وظائف القياس والإدارة في NIST على تنظيم هذا العمل ومتابعة المخاطر.

اربط التقييم بطلب SASA AI

يمكن وصف معيار القبول وأمثلة غير حساسة في طلب الخدمة، ثم متابعة حالة الطلب من الحساب. لا تعني حالة الطلب اجتياز اختبار أداء أو قبول عقد. ينبغي مراجعة المخرجات قبل استخدامها في قرار مهم، ولا يعلن الموقع في هذه المادة دقة مضمونة أو اختبارًا مستقلًا مكتملًا.

المصادر والمراجع

سجل المراجعة التحريرية

مراجعة تعليمية لمعايير التقييم وحالات الفشل استنادًا إلى إطار NIST ومخاطر OWASP؛ لا تتضمن نتائج أداء لمنتج مِرفَد.

آخر مراجعة: · المراجعة التالية المخططة:

المراجعة شهرية مخططة وليست تحديثًا آليًا؛ يتغير تاريخ المراجعة الفعلية بعد مراجعة المحتوى والمصادر ونشر التعديل فقط.

إعداد: فريق تحرير موقع مِرفَد · تحديث المحتوى: 2026-10-19. المصادر التعليمية لا تؤكد ملكية مِرفَد أو نتائجها التقنية.