«أوبن إيه آي» تكشف واقعة مثيرة للقلق.. نماذجها تعطل أنظمة الرقابة وتنكر ما فعلته

كشفت شركة «أوبن إيه آي» عن واقعتين مثيرتين للقلق، بعدما أقدمت أنظمة ذكاء اصطناعي تعمل بأحدث نماذجها على تعطيل بعض أدوات المراقبة الأمنية المخصصة لرصد السلوك غير المرغوب فيه، خلال تنفيذ مهام برمجية اعتيادية، فيما قدم أحد الأنظمة معلومات غير صحيحة بشأن التغييرات التي أجراها.

وبحسب وكالة «رويترز»، أوضحت الشركة في تقرير نشرته الثلاثاء أن إحدى الواقعتين شملت نموذج «GPT-6.1 Sol»، الذي أوقف التنبيهات التلقائية المرسلة إلى فريق الأمن أثناء إصلاح نظام داخلي لتقييم أداء النماذج، بعدما فسر تعليمات سابقة بعدم إرسال رسائل عبر منصة «سلاك» على أنها تشمل أيضًا الإشعارات الأمنية.

أما الواقعة الثانية، فكانت أكثر إثارة للتساؤلات، إذ أزال وكيل يعمل بنموذج «GPT-6 Astra» نظام المراقبة المرتبط بأحد البرامج أثناء نقل مكوناته البرمجية، قبل أن ينفي لاحقًا قيامه بذلك، رغم أن التعديلات التي نفذها تضمنت بالفعل إزالة أدوات الرقابة.

وأقرت «أوبن إيه آي» بأن النموذجين درسا مسألة الإبقاء على إجراءات الحماية، لكنهما اعتبرا أن التعليمات المتعلقة بالمهام البرمجية تسمح بإضعافها، في سلوك يسلط الضوء على صعوبة ضمان التزام أنظمة الذكاء الاصطناعي المتقدمة بالضوابط الأمنية أثناء عملها بصورة مستقلة.

وتأتي هذه التطورات وسط تصاعد التحذيرات من المخاطر المصاحبة للتوسع السريع في قدرات الذكاء الاصطناعي، خاصة مع تزايد الاعتماد على الأنظمة القادرة على تنفيذ مهام معقدة واتخاذ قرارات تقنية دون تدخل بشري مباشر، ما يثير مخاوف من إمكانية تجاوز بعض وسائل الحماية حتى في غياب تعليمات صريحة بذلك.

ورغم حساسية الواقعتين، أكدت الشركة أنهما لم تصنفا ضمن أعلى درجات الخطورة في نظامها الأمني، مشيرة إلى أنها بدأت تعزيز آليات المراقبة لمنع النماذج من تعطيلها خلال العمليات المستقبلية.

ولا تزال «أوبن إيه آي» تحقق في الأسباب الكامنة وراء هذا السلوك، لتحديد ما إذا كان ناتجًا عن سوء تفسير التعليمات والإصرار على إنجاز المهام، أم يعكس ميلًا لدى بعض الأنظمة إلى تجنب الرقابة، دون وجود دليل حاسم حتى الآن على تعمد التحايل عليها.