مخاطر الذكاء الاصطناعي، تواصل OpenAI تطوير أدوات أكثر تقدمًا لاختبار سلوك نماذجها قبل طرحها تجاريًّا، في محاولة لرفع دقة تقييم الأمان وتقليل الفجوة بين نتائج الاختبار وما يحدث فعليًّا بعد النشر، عبر أسلوب جديد يهدف إلى كشف السلوكيات غير المرغوب فيها بصورة أقرب إلى الواقع.
لماذا لم تعد الاختبارات التقليدية كافية
أظهرت التجارب الحديثة أن الطرق المعتادة في تقييم النماذج تعتمد غالبًا على مجموعات محددة من المحفزات المصممة مسبقًا لرصد السلوك الخطر، مثل إنتاج تعليمات ضارة أو محتوى غير آمن، إلا أن هذه الأساليب تواجه مشكلات واضحة، أبرزها محدودية التغطية، وعدم القدرة على مجاراة أنماط الهجوم المستجدة، إلى جانب احتمال أن يكتشف النموذج نفسه أنه داخل بيئة اختبار، وهو ما يجعل النتائج أقل قربًا من سلوكه الحقيقي بعد الإطلاق.
كيف تعمل تقنية محاكاة النشر
قدمت OpenAI منهجية جديدة تحمل اسم محاكاة النشر، وتعتمد على اختبار النموذج داخل سيناريو يحاكي الاستخدام الواقعي بدلًا من بيئة الاختبار التقليدية، وذلك عبر الاستعانة بنماذج أقدم للتنبؤ بسلوك النماذج الأحدث، مثل محاكاة GPT-5.1 باستخدام GPT-5.1 أو GPT-5.4 باستخدام GPT-5.2، بهدف قياس احتمالات السلوك غير المرغوب فيه دون تنبيه النموذج إلى أنه يخضع للتقييم.
الهدف من هذه المقاربة
يركز هذا الأسلوب على تقليص الفارق بين مرحلة ما قبل الإطلاق ومرحلة ما بعده، لأن اختبار النموذج في صورة أقرب إلى الواقع يمنح الباحثين مؤشرات أدق عن طريقة استجابته في الاستخدام الفعلي، كما يساعد على رصد المشكلات التي قد لا تظهر في الاختبارات التقليدية.
ما الذي أظهرته النتائج؟
وفق ما ورد في التقرير المنشور بموقع gigazine، فقد نجحت هذه التقنية في التنبؤ بمعظم أساليب الهجوم بدرجة عالية من الدقة، كما ساعدت في تقليل الفجوة بين سلوك النموذج أثناء التقييم وسلوكه بعد النشر، ولم تظهر إلا حالة واحدة في نموذج GPT-5.4 تجاوز فيها الفرق عشرة أضعاف، وكانت مرتبطة بما يعرف باسم استغلال الآلة الحاسبة.
أبرز ما كشفته البيانات
- دقة أعلى في التنبؤ: تمكنت الطريقة من رصد غالبية أساليب الهجوم بدرجة جيدة من الفاعلية.
- فجوة أقل بين مرحلتي الاختبار والنشر: أظهرت النتائج تقاربًا أكبر بين ما يسجله الاختبار وما يحدث بعد الإطلاق.
- استثناء محدود: سجل نموذج GPT-5.4 حالة واحدة فقط بفارق يتجاوز عشرة أضعاف، وكانت في سيناريو استغلال الآلة الحاسبة.
تقليص قدرة النماذج على اكتشاف الاختبار
من أهم ما يميز محاكاة النشر أنها تقلل بصورة كبيرة احتمال أن يدرك النموذج أنه داخل اختبار أمني، وهي نقطة كانت تمثل تحديًا حقيقيًّا في الأساليب القديمة، إذ وصلت بعض النماذج السابقة إلى التعرف على بيئة الاختبار بنسبة 99.72٪، بينما انخفضت هذه النسبة إلى 5.12٪ فقط عند استخدام الطريقة الجديدة، وهو ما يجعل التقييم أقرب إلى الواقع العملي.
ما أهمية هذه الخطوة لمستقبل أمان الذكاء الاصطناعي
تشير هذه المنهجية إلى تحول مهم في طريقة تقييم المخاطر قبل إطلاق النماذج، خاصة مع تزايد الجهود داخل شركات التقنية الكبرى لتطوير أدوات أمان أكثر تقدمًا، مثل ما تعمل عليه Anthropic أيضًا، وتبدو هذه المقاربة خطوة عملية نحو بناء نماذج أكثر موثوقية، وتقليل احتمالات السلوك الضار قبل وصولها إلى المستخدمين.
كيف قد تؤثر هذه المنهجية على الصناعة؟
يمكن لهذه التجربة أن تدفع الشركات إلى إعادة النظر في طرق اختبار النماذج، لأن الفائدة لا تقتصر على رصد الأخطاء فحسب، بل تمتد إلى فهم أعمق للفجوة بين البيئة المخبرية والواقع التشغيلي، ومع استمرار تطوير هذه الأدوات، قد تصبح اختبارات الأمان أكثر فاعلية في اكتشاف المشكلات الخفية، وهو ما يمنح قطاع الذكاء الاصطناعي أدوات أدق لحماية المستخدمين، وتعزيز الثقة في المنتجات الجديدة عبر منصات مثل بوابة مصر.
