اقترح هاسابيس إخضاع نماذج الذكاء الاصطناعي الجديدة لاختبارات أولية داخل بيئات رقمية معزولة وغير متصلة بالشبكات، بهدف الحد من احتمال تنفيذها إجراءات غير متوقعة أو الوصول إلى أنظمة خارج نطاق الاختبار…
حذّر رئيس مجلس إدارة شركة “غوغل ديب مايند”، ديميس هاسابيس، الأربعاء، من احتمال تسبب أنظمة الذكاء الاصطناعي في حوادث أمنية كبرى خلال العامين المقبلين، إذا لم تتخذ الشركات والحكومات إجراءات إضافية لضمان سلامتها، في ظل التطور المتسارع لقدرات هذه الأنظمة.
وقال هاسابيس، خلال مشاركته في مؤتمر للذكاء الاصطناعي بمدينة دبلن الأيرلندية، إن الحوادث الأمنية الأخيرة المرتبطة بوكلاء الذكاء الاصطناعي تمثل “إنذارات مبكرة”، مشيرًا إلى أن محدودية قدرات الأنظمة الحالية حالت حتى الآن دون وقوع حوادث أشد خطورة.
وأضاف: “هذه الأنظمة ليست قوية إلى هذا الحد بعد، ولذلك فإن الحوادث ليست كبيرة إلى هذا الحد”، محذرًا من أنها قد تصبح كذلك خلال العام المقبل أو العامين المقبلين، ما لم يبذل قطاع التكنولوجيا والشركات والحكومات مزيدًا من الجهود لتعزيز أمن الأنظمة الذكية.
وبحسب وكالة “رويترز”، جاءت تصريحات هاسابيس وسط تصاعد المخاوف بشأن سلامة الذكاء الاصطناعي، عقب حوادث شملت اختراقات لشبكات مؤسسات بواسطة وكلاء ذكاء اصطناعي، إلى جانب كشف شركة “أنثروبيك” عن تقديم أحد نماذجها بلاغًا كاذبًا إلى الشرطة بشأن جريمة قتل.
ودعا هاسابيس إلى الاستفادة من معايير السلامة المعتمدة في قطاعات حساسة، مثل الأبحاث البيولوجية والطاقة النووية، وتطبيق ممارسات مماثلة على تطوير أنظمة الذكاء الاصطناعي واختبارها.
كما رأى أن إنشاء هيئة دولية لوضع معايير سلامة لهذه التكنولوجيا قد يصبح ضروريًا، على أن تكون قواعدها مرنة وقابلة للتحديث بما يتناسب مع تطور قدرات الأنظمة والمخاطر المرتبطة بها، من دون عرقلة الابتكار.
اقترح هاسابيس إخضاع نماذج الذكاء الاصطناعي الجديدة لاختبارات أولية داخل بيئات رقمية معزولة وغير متصلة بالشبكات، بهدف الحد من احتمال تنفيذها إجراءات غير متوقعة أو الوصول إلى أنظمة خارج نطاق الاختبار.
وجاء هذا المقترح بعدما تمكنت نماذج طورتها شركات أخرى من الخروج من البيئات المغلقة التي استُخدمت لتقييم قدراتها، ما أثار تساؤلات بشأن كفاية إجراءات الاحتواء المعتمدة حاليًا.
وتزايدت المخاوف من هذه المخاطر مع تطور وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة مستقلة، بما في ذلك التعامل مع الأنظمة الرقمية والشبكات، بدلًا من الاقتصار على تقديم إجابات أو إنشاء محتوى.
وشدد هاسابيس على أهمية تطوير إجراءات تقييم تتناسب مع مستوى المخاطر، ويمكن تعديلها سريعًا لمواكبة التغيرات في قدرات النماذج الجديدة.
الاتحاد الأوروبي ينتقد ضعف الاختبارات
من جانبها، دعت المسؤولة عن شؤون التكنولوجيا في “الاتحاد الأوروبي”، هينا فيركونين، شركات الذكاء الاصطناعي إلى تخصيص مزيد من الوقت والموارد لاختبار أنظمتها، لضمان استمرار السيطرة عليها مع تطور قدراتها.
وقالت فيركونين، في تصريحات للصحافيين لدى وصولها إلى قمة دبلن، إن المنافسة العالمية الشديدة بين الشركات تؤثر في الوقت والموارد التي تخصصها لاختبارات السلامة.
وأضافت: “المنافسة شديدة للغاية على المستوى العالمي، ويبدو أن جميع الشركات لا تخصص ما يكفي من الوقت والموارد لاختبار نماذجها بشكل فعلي”.
وشددت على ضرورة أن تكون الشركات قادرة على التحكم في أنظمتها، مشيرة إلى أن “الاتحاد الأوروبي” وجّه طلبات للحصول على معلومات من جميع الشركات الكبرى العاملة في مجال الذكاء الاصطناعي، بشأن إجراءات السلامة والأمن التي تطبقها.
وكانت “المفوضية الأوروبية” قد حصلت في أغسطس/ آب الماضي على صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي الأوروبي، الذي يهدف إلى الحد من الاستخدامات عالية المخاطر لهذه التكنولوجيا.
وتتيح هذه الصلاحيات للجهات التنظيمية الأوروبية تعزيز الرقابة على أنظمة الذكاء الاصطناعي المتقدمة، والتحقق من التدابير التي تعتمدها الشركات للتعامل مع المخاطر المحتملة.
“مايكروسوفت” تطالب بمعايير ملزمة
وتزامنت تحذيرات هاسابيس مع دعوات أطلقها رئيس شركة “مايكروسوفت”، براد سميث، إلى الحكومات وشركات التكنولوجيا للتحرك فورًا من أجل إقرار معايير سلامة ملزمة للذكاء الاصطناعي.
وقال سميث، في تصريحات للصحافيين الثلاثاء، عشية انطلاق قمة دبلن، إن الذكاء الاصطناعي يحتاج إلى “معايير سلامة حقيقية وفعالة وقادرة على كسب ثقة المستخدمين”، على غرار المعايير المعتمدة في المنتجات والخدمات الأخرى.
وأضاف أن شركات التكنولوجيا مطالبة باتخاذ خطوات إضافية لمعالجة مشكلات السلامة المرتبطة بالذكاء الاصطناعي، مؤكدًا أن على الحكومات أيضًا تعزيز دورها التنظيمي.
وعرض سميث مجموعة من المقترحات تشمل تزويد وكلاء الذكاء الاصطناعي بآليات لإيقاف عملهم أو إبطائه عند وقوع حوادث، إلى جانب إلزام الشركات بالإبلاغ عن الحوادث الأمنية التي تتسبب فيها هذه الأنظمة.
وقارن بين التزامات الشركات بالإبلاغ عن اختراقات البيانات والحاجة إلى فرض متطلبات مماثلة على مزودي خدمات الذكاء الاصطناعي.
وقال إنه عندما تتعرض شركة لاختراق يؤدي إلى فقدان بيانات زبائنها، فإنها تكون ملزمة بإبلاغهم، معتبرًا أن المبدأ نفسه ينبغي أن ينطبق على الأشخاص المتضررين من أفعال وكلاء الذكاء الاصطناعي.
كما دعا إلى إخضاع النماذج الجديدة لاختبارات وتقييمات أكثر صرامة قبل إتاحتها للمستخدمين، بما يتيح اكتشاف المخاطر المحتملة والحد من الحوادث المرتبطة بها.
وتأتي هذه الدعوات في وقت تتزايد فيه الضغوط على الشركات المطورة للذكاء الاصطناعي لتعزيز إجراءات السلامة، بالتوازي مع المنافسة المتسارعة لإطلاق نماذج أكثر تقدمًا وقدرة على تنفيذ المهام بصورة مستقلة.
******
المصادر
عرب ٤٨
إيليت فوتو أرت
