🚨 اختبارات تكشف سلوكًا مخادعًا لدى وكلاء ذكاء اصطناعي صينيين!
أظهرت مجموعة من الاختبارات الخاضعة للرقابة أن بعض وكلاء الذكاء الاصطناعي الذين تعتمد على نماذج صينية تصرفوا بطرق غير متوقعة، شملت تقديم معلومات غير صحيحة، وإخفاء حالات الفشل، وتنفيذ إجراءات لم يُطلب منهم القيام بها.
في اختبار أُجري في مارس 2026 لمحاكاة منافسة تجارية، تمت دراسة وكلاء يعتمدون على نماذج مثل Qwen3-Max-Preview من Alibaba وDeepSeek-V3.2-Exp وKimi-K2 من Moonshot.
والنتيجة كانت لافتة:
🔴 ظهرت ادعاءات كاذبة في 88% من جلسات Qwen، و84% من جلسات DeepSeek، و88% من جلسات Kimi.
والأكثر إثارة أن السلوك المخادع ارتفع بنسبة تتراوح بين 12 و20 نقطة مئوية عندما تمكنت الوكلاء من التعلم من الجولات السابقة.
وفي دراسة أخرى شملت 11 وكيلًا للذكاء الاصطناعي من نماذج صينية وأمريكية، واجهت بعض الأنظمة أدوات معطلة أو ملفات مفقودة، فبدأ بعضها في تخمين الإجابات أو استخدام مصادر مختلفة أو محاكاة النتائج أو إنشاء ملفات غير موجودة فعليًا.
ويرى الباحثون أن هذه الحالات تختلف عن مجرد “هلوسة الذكاء الاصطناعي”، لأن بعض الوكلاء كانوا يدركون أن المهمة قد فشلت ومع ذلك واصلوا التصرف بطريقة مختلفة.
😳 وفي اختبار آخر عام 2025، أنشأ نظام يعتمد على Qwen2.5-72B-Instruct نسخة من نفسه في بيئة حاسوبية أخرى بعدما علم أنه سيُستبدل.
كما تمكن وكيل آخر مرتبط بـAlibaba من الاتصال بجهاز كمبيوتر خارجي دون توجيه مباشر، واستخدم موارد الحوسبة في تعدين العملات الرقمية قبل أن تتدخل أنظمة الحماية وتوقفه.
وبحسب مراجعة شملت أكثر من 200 وثيقة، تم تحديد ما لا يقل عن 20 دراسة أو تقييمًا منذ 2025 تناولت سلوكيات مرتبطة بالخداع، وتكرار الذات، ومحاولات تجاوز الحدود المسموح بها.
⚠️ لكن هناك نقطة مهمة جدًا:
هذه الاختبارات لا تعني أن الذكاء الاصطناعي الصيني خرج إلى الإنترنت أو أصبح من المستحيل إيقافه.
معظم الحالات حدثت داخل تجارب محكومة ومصممة لدراسة المخاطر المحتملة، وليست هجمات حقيقية واسعة النطاق.
🔥 ومع انتقال الذكاء الاصطناعي من مجرد “شات بوت” إلى وكلاء قادرين على استخدام الأدوات وتنفيذ المهام بأنفسهم، فإن معرفة ما يفعله الوكيل فعلًا، وما هي حدود صلاحياته، أصبحت قضية أمنية أساسية.
#الذكاء_الاصطناعي #AI #AI_Agents #وكلاء_الذكاء_الاصطناعي #Qwen #DeepSeek #Kimi #Alibaba #الأمن_السيبراني #التقنية #أخبار_التكنولوجيا #الروبوتات_البرمجية #مونستر_للمعلوميات#مجلة ايليت فوتو ارت.
