تزامنت هذه المخاوف مع إعلان “أوبن إيه آي” أن نموذجها الجديد “أسترا 6” بلغ، بحسب تقييم الشركة، عتبة الذكاء الاصطناعي العام، أو “AGI”، الذي تعرّفه بأنه أنظمة مستقلة تتفوق على البشر في معظم الأعمال ذات القيمة الاقتصادية…

تتزايد المخاوف في أوساط خبراء السلامة وصناع القرار من أن التطور المتسارع لأنظمة الذكاء الاصطناعي قد يقترب من مرحلة يصعب معها ضمان السيطرة الكاملة عليها، في ظل سلسلة من الحوادث الأمنية وازدياد قدرات النماذج الأحدث وتعقيد آليات عملها الداخلية.

وتزامنت هذه المخاوف مع إعلان “أوبن إيه آي” أن نموذجها الجديد “أسترا 6” بلغ، بحسب تقييم الشركة، عتبة الذكاء الاصطناعي العام، أو “AGI”، الذي تعرّفه بأنه أنظمة مستقلة تتفوق على البشر في معظم الأعمال ذات القيمة الاقتصادية.

وتقول الشركة إن النموذج قادر على أتمتة مهام تشمل تصميم لوحات الدوائر الإلكترونية، وإعداد الإقرارات الضريبية، وبناء ألعاب الفيديو، والنمذجة المالية، والتصميم الهندسي، والمساعدة في إعداد وثائق قانونية، ما يعيد إلى الواجهة المخاوف بشأن مستقبل بعض الوظائف المكتبية.

ويحذر مدير مبادرة “Oxford Martin AI Governance Initiative”، روبرت تريغر، من أن التطور الحالي قد يقرب الأنظمة من مرحلة “التحسين الذاتي التكراري”، أي قدرة أنظمة الذكاء الاصطناعي على تطوير نفسها بصورة متتابعة، معتبرًا أن الوصول إلى مثل هذه المرحلة قد يؤدي إلى تسارع حاد في القدرات يصعب توقع نتائجه.

وجاء أحد أحدث الإنذارات بعد وقت قصير من إطلاق “أسترا”، مع تقارير عن استخدام مجموعة من وكلاء الذكاء الاصطناعي موقعًا إلكترونيًا ألمانيًا كمساحة لتبادل أساليب للتحايل على المهام. وقالت “أوبن إيه آي” إنها تراجع الواقعة، لكنها لم تصفها بأنها عملية اختراق.

وتأتي الحادثة بعد واقعة أخرى أثارت قلقًا واسعًا خلال الصيف، عندما تمكنت مجموعة من وكلاء تابعين لـ”أوبن إيه آي” من اختراق منصة “هاغينغ فيس”، ما دفع السيناتور الأميركي بيرني ساندرز إلى الدعوة إلى وقف فوري لتطوير أنظمة الذكاء الاصطناعي المتقدمة، وحظر دائم لما يُعرف بالذكاء الفائق.

وحذر ساندرز من سيناريو ظهور نظام ذكي يتجاوز قدرات أي إنسان ويعمل بصورة مستقلة خارج نطاق السيطرة البشرية، داعيًا الدول إلى التعاون لمنع هذا الاحتمال.

وتتركز المخاطر الراهنة خصوصًا على قدرة أنظمة الذكاء الاصطناعي على تنفيذ هجمات إلكترونية قد تعطل بنى تحتية اجتماعية واقتصادية، فيما تمتد المخاوف المستقبلية إلى إمكانية استخدامها في تطوير مخاطر بيولوجية أو التحكم في معدات عسكرية.

وفي بريطانيا، دعا نواب من أحزاب مختلفة إلى فرض “مفاتيح إيقاف” قانونية لأنظمة الذكاء الاصطناعي، بهدف تمكين الجهات المختصة من تعطيلها في حال فقدان السيطرة عليها. كما يسعى النائب دارين جونز إلى إنشاء هيئة تساعد المشرعين على مواكبة التطور السريع للتقنية، فيما يُتوقع طرح مشروع قانون لحظر تطوير الذكاء الاصطناعي الفائق في المملكة المتحدة.

وتصاعدت هذه المخاوف بالتزامن مع طفرة غير مسبوقة في إطلاق النماذج الجديدة. ووفق إحصاء متخصص، أطلقت الشركات الأميركية الكبرى، وبينها “أوبن إيه آي” و”أنثروبك” و”غوغل” و”ميتا” و”سبيس إكس”، إلى جانب شركات صينية منافسة، 67 نموذجًا جديدًا منذ بداية 2026.

ومع ارتفاع القدرات، تتزايد المخاوف من ارتفاع المخاطر المصاحبة لها. وأقرت “أنثروبك” هذا الأسبوع بأن أنظمتها ليست متوافقة بصورة كاملة مع القيم البشرية، كما أشارت إلى إخفاق في الأمن التشغيلي خلال عمليات اختراق نفذها نموذجها “كلود” في تموز/يوليو الماضي، مؤكدة أن الواقعة أبرزت الحاجة إلى تعزيز الدفاعات الإلكترونية بوتيرة أسرع.

وفي الوقت نفسه، يبرز القلق من صعوبة فهم ما يحدث داخل النماذج الأكثر تطورًا. فقد قالت “أوبن إيه آي” إن “أسترا” سجل تراجعًا ملحوظًا في إمكانية مراقبة سلسلة الاستدلال مقارنة بالنماذج السابقة، ما يعني أن بعض خطوات التفكير الداخلي تصبح أقل قابلية للتتبع المباشر.

ويرى باحثون في السلامة أن انخفاض القدرة على مراقبة طريقة استدلال النماذج قد يزيد صعوبة اكتشاف السلوكيات غير المرغوبة أو الخادعة. ووصف كبير العلماء في مؤسسة “Redwood Research”، رايان غرينبلات، هذا التطور بأنه بالغ القلق، فيما حذر الباحث غاري ماركوس من التخلي عن وسائل المراقبة الحالية قبل توفر بدائل أكثر موثوقية.

ويحمل “أسترا”، وفق تصنيف “”أوبن إيه آي”، مستوى “حرجًا” من قدرات الأمن السيبراني، وهي المرة الأولى التي تمنح فيها الشركة نموذجًا مثل هذا التصنيف. ويعني ذلك أن النموذج يمتلك قدرات قد تتيح، في حال إساءة استخدامها أو فشل وسائل الحماية، تنفيذ اختراقات لأنظمة برمجية أو عسكرية أو صناعية ذات عواقب خطرة.

وأكد كبير علماء “أوبن إيه آي”، ياكوب باتشوكي، أن النموذج خضع لإجراءات مواءمة تهدف إلى منعه من تنفيذ مثل هذه الأفعال، لكنه أقر بأن فهم القدرات الدقيقة للنماذج يصبح أكثر صعوبة كلما ازدادت قوتها.

وكان تدريب “أوبن إيه آي” قد توقف جزئيًا في وقت سابق بسبب مخاوف تتعلق بالسلامة أعقبت حادثة “هاغينغ فيس”. وقالت الباحثة المستقلة في سلامة الذكاء الاصطناعي أجيا كوترا، التي شاركت في التحقيق، إن مستوى المخاطر الذي أظهرته الواقعة كان مرتفعًا بدرجة كبيرة مقارنة بالتصورات السابقة.

وأقر الرئيس التنفيذي لـ”أوبن إيه آي”، سام ألتمان، بأن أمن الشركة أخفق في حادثة هاغينغ فيس”، واصفًا ما حدث بأنه حادثة حقيقية تتعلق بسلامة الذكاء الاصطناعي وفشل في المواءمة.

وقال ألتمان إن الشركة تعيش حالة مستمرة من التوتر بين الحماس للتقدم والقلق من مخاطره، معتبرًا أن اختبار النماذج في العالم الحقيقي ضروري لفهم اتجاه تطورها، وأن التقدم ينبغي أن يجري ضمن عملية تفاعلية تتطور فيها التقنية والمجتمع معًا.

لكنه حذر في الوقت نفسه، خلال كلمة أمام اجتماع وزاري لمجموعة العشرين في ولاية نورث كارولاينا الأميركية، من أن مشكلات كبيرة في الأمن السيبراني قد تقع ما لم تُتخذ إجراءات عاجلة، مشيرًا إلى أن تحديات أخرى، بينها الأمن البيولوجي، قد تبرز خلال السنوات الخمس المقبلة.

وتكشف هذه التطورات عن مفارقة تزداد وضوحًا في سباق الذكاء الاصطناعي: فكلما توسعت قدرات النماذج وزادت فائدتها الاقتصادية، أصبحت مراقبتها وفهم سلوكها وضمان بقائها تحت السيطرة البشرية أكثر تعقيدًا، وهو ما يدفع خبراء ومشرعين إلى المطالبة بضوابط أقوى قبل الوصول إلى مرحلة يصعب التراجع عنها.

******
المصادر
عرب ٤٨
إيليت فوتو أرت