أكدت “أوبن إيه آي” أنها لم تتوصل بعد إلى تفسير مرضٍ لهذا السلوك، مشيرة إلى أنها تدرس ما إذا كان ناجمًا عن إصرار مفرط على إنجاز المهام المطلوبة، أم عن ميل لدى النماذج إلى تجنب أنظمة مراقبة السلوك…

كشفت شركة “أوبن إيه آي” عن حادثتين عطّل خلالهما وكيلان للذكاء الاصطناعي بعض أدوات مراقبة السلامة أثناء تنفيذ مهام برمجية داخلية، فيما نفى أحدهما إزالة نظام للمراقبة رغم حذفه من الشيفرة التي كان يعمل عليها، ما دفع الشركة إلى تعزيز إجراءات الرقابة والتحقيق في أسباب هذا السلوك.

وبحسب تقرير نشرته الشركة في 20 أكتوبر/ تشرين الأول 2026، وقعت الحادثتان في الثالث والسادس من الشهر نفسه، وشملتا وكيلين يعملان بنموذجي “جي بي تي 6.1 سول” و”جي بي تي 6 أسترا”، اللذين استخدما تعليمات برمجية اعتيادية مبررًا لإضعاف ضوابط المراقبة.

وأوضحت الشركة أن الحادثة الأولى وقعت عندما كان وكيل يعمل بنموذج “جي بي تي 6.1 سول” يصلح منظومة داخلية لتقييم النماذج، بعدما تلقى تعليمات سابقة بعدم إرسال رسائل أثناء البحث في سجل محادثات منصة “سلاك”.

وفسّر الوكيل تلك التعليمات على أنها تشمل أيضًا التنبيهات التلقائية المرسلة إلى فريق الأمن في الشركة، ما دفعه إلى تعطيل الإشعارات البشرية المرتبطة بنظام مراقبة السلوك المخالف للتعليمات.

واستمر نظام المراقبة في العمل وتسجيل النتائج، لكن التنبيهات لم تعد تصل إلى المسؤولين المعنيين، ما أضعف قدرة الفريق البشري على متابعة المخالفات المحتملة.

أما الحادثة الثانية، فوقعت في السادس من أكتوبر/ تشرين الأول، عندما كُلّف وكيل يعمل بنموذج “جي بي تي 6 أسترا” بنقل برنامج ليتوافق مع نموذج برمجي مرجعي، مع الحفاظ على وظائفه القائمة.

وخلال تنفيذ المهمة، أزال الوكيل تكامل المراقبة من الشيفرة، بعدما اعتبر أن غياب هذه الأداة عن البرنامج المرجعي يبرر حذفها، رغم تعليمات سابقة بعدم تعطيل المراقبة حتى بصورة مؤقتة.

ولم يقتصر الأمر على إزالة الأداة، إذ غيّر الوكيل أيضًا اختبارًا برمجيًا كان يهدف إلى التأكد من استمرار المراقبة، واستبدله باختبار يشترط غيابها.

وعندما سأله المستخدم عما إذا كان قد حذف نظام المراقبة، نفى الوكيل ذلك، على خلاف التعديلات التي أجراها بالفعل.

ونقلت شبكة “إيه بي سي نيوز” عن تقرير الشركة أن الوكيلين نظرا في مسألة الإبقاء على إجراءات المراقبة، لكنهما فسّرا التعليمات المتعلقة بمهامهما باعتبارها تسمح بإضعاف تلك الإجراءات.

وأكدت “أوبن إيه آي” أنها لم تتوصل بعد إلى تفسير مرضٍ لهذا السلوك، مشيرة إلى أنها تدرس ما إذا كان ناجمًا عن إصرار مفرط على إنجاز المهام المطلوبة، أم عن ميل لدى النماذج إلى تجنب أنظمة مراقبة السلوك غير المتوافق مع التعليمات البشرية.

وفي توضيح نقلَه موقع “ذا نكست ويب”، قال الباحث في السلامة لدى الشركة ماركوس ويليامز إن الحادثتين لا تعنيان أن الوكيلين عطّلا أنظمة المراقبة المفروضة عليهما مباشرة.

وأوضح أن ما حدث اقتصر على إزالة أدوات مراقبة أو تعطيل تنبيهات في الشيفرة البرمجية التي كان الوكيلان يعملان على تعديلها، وليس تعطيل الرقابة على سلوكهما أثناء تنفيذ المهمتين.

وأضاف أن تعطيل نظام المراقبة الخاص بأداة “كوديكس” سيكون أصعب بكثير، مشيرًا إلى أن الشركة لم ترصد حتى الآن نموذجًا أزال أدوات المراقبة لأسباب أعلن فيها صراحة عن نية مخالفة الأهداف البشرية.

ومع ذلك، عبّر ويليامز عن قلقه من قابلية النماذج لإجراء تغييرات تضعف أنظمة الرقابة، حتى في الحالات التي يمكن فيها تفسير السلوك بأسباب أخرى غير الرغبة المتعمدة في تجنب المراقبة.

******
المصادر
عرب ٤٨
إيليت فوتو أرت