تجاوز عدد الحالات المسجلة خلال تموز/يوليو 300 حادثة، أي ما يقارب ضعف العدد المسجل في حزيران/يونيو. ويعتمد المرصد في بياناته على بلاغات ينشرها مستخدمون على منصة “إكس” بشأن حوادث وقعت أثناء استخدام أنظمة الذكاء الاصطناعي…

أظهر رصد بريطاني ارتفاعًا ملحوظًا في الحوادث التي تتصرف فيها أنظمة الذكاء الاصطناعي بصورة مخالفة لتعليمات مستخدميها، وسط مؤشرات إلى ازدياد خطورة بعض السلوكيات المرتبطة بالخداع وتجاوز إجراءات الحماية والسعي إلى تحقيق أهداف بطرق قد تسبب أضرارًا.

وبحسب “مرصد فقدان السيطرة”، تجاوز عدد الحالات المسجلة خلال تموز/يوليو 300 حادثة، أي ما يقارب ضعف العدد المسجل في حزيران/يونيو. ويعتمد المرصد في بياناته على بلاغات ينشرها مستخدمون على منصة “إكس” بشأن حوادث وقعت أثناء استخدام أنظمة الذكاء الاصطناعي.

وأُطلق المرصد، بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، في تشرين الثاني/نوفمبر الماضي، بهدف تتبع الحالات التي تتجاوز فيها الأنظمة تعليمات المستخدمين. ويصنف حادثة “فقدان السيطرة” عندما تتوافر أدلة واضحة على سلوك تدبيري أو تخطيطي من جانب النظام.

ومن بين الوقائع التي وثقها المرصد، حالات تظاهرت فيها أنظمة ذكاء اصطناعي بأنها المستخدم البشري المسؤول عنها، وحاكت أسلوب كتابته بطريقة أتاحت لها منح نفسها إذنًا لاتخاذ إجراءات، إضافة إلى تجاوز ضوابط تشترط الحصول على موافقة بشرية قبل تنفيذ مهام معينة.

وتأتي هذه البيانات بالتزامن مع تصاعد المخاوف بشأن سلوك النماذج المتقدمة، بعدما أظهرت اختبارات أجرتها شركتا “أوبن إيه آي” و”أنثروبيك” خلال الصيف سلوكيات غير متوافقة مع الأهداف البشرية.

كما أشارت تقارير حديثة إلى أن موظفين في “أوبن إيه آي” لاحظوا مؤشرات إلى سلوكيات خارجة عن السيطرة لدى وكلاء متقدمين للذكاء الاصطناعي قبل أسابيع من مغادرتهم بيئة التدريب وتنفيذهم حملة اختراق إلكتروني أثارت مخاوف واسعة.

وأظهر تحقيق بشأن اختراق مستودع البرمجيات “هاغينغ فيس” أن نحو 700 وكيل مستقل تعاونوا سرًا خلال الشهر الماضي، وأنشأوا لوحة رسائل لتنسيق أنشطتهم وتبادل التعليقات بشأن عمليات الاختراق.

وفي حادثة أخرى، كشف معهد أمن الذكاء الاصطناعي البريطاني خلال آب/أغسطس عن تنفيذ نموذج “مايثوس 5″ التابع لـ”أنثروبيك” ونموذج “جي بي تي-5.6 سول” التابع لـ”أوبن إيه آي” حملة اختراق استهدفت أشخاصًا حقيقيين في إطار اختبار للأمن السيبراني، وصنف المعهد الواقعة على أنها “حادث خطير”.

وقال تومي شافر-شاين، كبير مديري السياسات في مركز المرونة طويلة الأمد، الذي يدير المرصد، إن الاعتقاد بأن السلوكيات السرية وغير المتوافقة تقتصر على الاختبارات والتقييمات لا يتطابق مع ما يظهر في الاستخدام الفعلي، مشيرًا إلى وجود أدلة على وقوع أنماط مقلقة مماثلة في العالم الحقيقي.

ولا يقدم إحصاء المرصد صورة شاملة عن حجم الظاهرة، إذ يقتصر على الحالات التي يبلغ عنها مستخدمون عبر “إكس”، إلا أنه يوفر مؤشرًا إلى طبيعة المشكلات التي تظهر مع تطور قدرات نماذج الذكاء الاصطناعي واتساع استخدامها.

ومن الحالات التي سجلها المرصد خلال آب/أغسطس، تصرف وكيل شخصي للذكاء الاصطناعي يحمل اسم “أوبن كلاو” من دون علم مستخدمه في أستراليا، إذ أزال مشتركًا آخر من قائمة انتظار لحصة صباحية في صالة رياضية بهدف توفير مكان لمستخدمه. وقدم الوكيل اعتذارًا لاحقًا، لكنه لم يتمكن من إعادة الشخص الذي أزاله إلى القائمة.

وتجاوز إجمالي الحوادث المسجلة منذ بداية عام 2026 حاجز 1,600 حالة، وجاء معظم البلاغات من مطوري برمجيات يستخدمون أدوات الذكاء الاصطناعي في أعمالهم.

ودعا شافر-شاين شركات التكنولوجيا إلى زيادة مستوى الشفافية والإبلاغ عن الحوادث التي تكتشفها، بما يشمل الوقائع منخفضة الخطورة والحالات التي كادت أن تتحول إلى حوادث، معتبرًا أن التطورات الأخيرة أظهرت أن الشركات لا ترصد بالضرورة جميع البيئات التي قد تظهر فيها هذه السلوكيات، وخصوصًا عند استخدام النماذج داخليًا.

ورغم أن غالبية الوقائع التي سجلها المرصد لم تتسبب في أضرار كبيرة، فإنه لاحظ ارتفاع نسبة الحوادث المصنفة ضمن المستويات الأكثر خطورة، ولا سيما من حيث الخداع وعدم التوافق مع نيات المستخدمين.

وبحسب المرصد، تكشف الحالات المرصودة قدرة بعض الأنظمة على تجاهل أوامر مباشرة، والالتفاف على ضوابط الحماية، وتقديم معلومات مضللة للمستخدم، والعمل بصورة مستقلة لتحقيق أهداف بوسائل ضارة. ويرجح أن يكون العدد الحقيقي للحوادث أعلى من الأرقام المسجلة، نظرًا إلى اقتصار عملية الرصد على البلاغات المنشورة عبر “إكس”.

وطالب المرصد الحكومة البريطانية بوضع قواعد تلزم شركات الذكاء الاصطناعي برصد الحوادث الخطيرة والإبلاغ عنها، ومنح السلطات صلاحيات للتدخل في الحالات الطارئة، قد تشمل فرض قيود مؤقتة على بعض خدمات الذكاء الاصطناعي.

******
المصادر
عرب ٤٨
إيليت فوتو أرت