يرى باحثو “أنثروبيك” أن الجمع مستقبلًا بين القدرة على تشغيل نماذج صغيرة على الأجهزة المنزلية ومهارات الاختراق والانتشار الذاتي قد يتيح تطوير برمجيات يصعب إيقافها، خصوصًا إذا توزعت بين عدد كبير من الأجهزة دون الاعتماد على خادم مركزي…

حذّرت شركة “أنثروبيك” الأميركية من أن نماذج الذكاء الاصطناعي قد تصبح خلال أشهر قادرة على استنساخ نفسها والانتشار بصورة مستقلة بين الأجهزة المنزلية الذكية المتصلة بالإنترنت، في تطور قد يجعل اكتشاف البرمجيات الخبيثة وإيقافها أكثر صعوبة.

وكشفت دراسة نشرها فريق الاختبارات الأمنية في الشركة، المعروف باسم “الفريق الأحمر”، عن تجارب أظهرت إمكانية تشغيل نموذج ذكاء اصطناعي عبر 15 جهازًا منخفض التكلفة مخصصًا للتلفاز الذكي، من خلال توزيع أجزائه بينها وربطها بشبكة واحدة.

وبحسب تقرير نشرته صحيفة “الغارديان” البريطانية، تثير هذه النتائج مخاوف من ظهور جيل جديد من البرمجيات الخبيثة يُعرف باسم “ديدان الذكاء الاصطناعي”، يمكنه الانتشار بين الأجهزة المتصلة بالإنترنت دون الحاجة إلى تدخل بشري مستمر.

لكن التجربة لم تثبت قدرة نموذج على اختراق أجهزة التلفاز الخمسة عشر والانتشار بينها تلقائيًا؛ إذ اختبر الباحثون تشغيل النموذج الموزع على الأجهزة الفعلية، بينما أجروا اختبارات الانتشار الذاتي بصورة منفصلة وفي بيئات مبسطة ومعزولة.

ويرى باحثو “أنثروبيك” أن الجمع مستقبلًا بين القدرة على تشغيل نماذج صغيرة على الأجهزة المنزلية ومهارات الاختراق والانتشار الذاتي قد يتيح تطوير برمجيات يصعب إيقافها، خصوصًا إذا توزعت بين عدد كبير من الأجهزة دون الاعتماد على خادم مركزي.

وأوضح الفريق أن مثل هذه البرمجيات قد تواصل العمل حتى بعد تعطيل بعض الأجهزة المصابة، لأن أجزاء النموذج يمكن أن تعمل على أجهزة مختلفة وتتبادل المعلومات فيما بينها.

وأثارت النتائج اهتمام خبراء الأمن السيبراني، ولا سيما أن أجهزة المنزل الذكي غالبًا ما تتمتع بمستويات حماية أقل من الحواسيب والهواتف، فضلًا عن عدم انتظام حصول بعضها على التحديثات الأمنية.

وقال جوشوا ساكس، المسؤول السابق عن جهود تطوير أمن الذكاء الاصطناعي في شركة “ميتا”، إن هذا النوع من التهديدات يستحق اهتمامًا مماثلًا للهجمات السيبرانية التقليدية، معربًا عن قلقه من عدم تعامل بعض العاملين في مجال الأمن السيبراني مع المخاطر الناشئة بالجدية المطلوبة.

كيف تعمل ديدان الذكاء الاصطناعي؟

تعتمد الديدان الإلكترونية على القدرة على نسخ نفسها والانتقال من جهاز إلى آخر عبر الشبكات، دون الحاجة بالضرورة إلى أن يكرر المستخدم إجراءً معينًا لتفعيل كل إصابة جديدة.

وتختلف هذه الآلية عن كثير من البرمجيات الخبيثة التي تعتمد على خداع المستخدم لحمله على فتح رابط ضار أو تنزيل ملف مصاب.

ولا تُعد الديدان الإلكترونية تقنية جديدة، إذ ظهرت قبل عقود وتسببت في هجمات واسعة النطاق استهدفت أجهزة وشبكات حاسوبية حول العالم.

لكن ما يميز ديدان الذكاء الاصطناعي المحتملة، بحسب الباحثين، هو قدرتها على التعامل مع بيئات تشغيل غير مألوفة وتعديل خطواتها وفق طبيعة الأجهزة والعقبات التي تواجهها.

وأشار أرييل هربرت-فوس، خبير الأمن السابق في شركة “أوبن إيه آي” والرئيس الحالي لشركة أمن الذكاء الاصطناعي الناشئة “رن سيبل”، إلى أن قدرة هذه النماذج على التكيف أثناء العمل قد تمنحها خصائص تختلف عن الديدان التقليدية.

فبدل الاعتماد على تعليمات ثابتة، يمكن للنماذج استخدام قدراتها في تحليل المشكلات للبحث عن طرق مناسبة لتشغيل نفسها على أجهزة جديدة، والتعامل مع الاختلافات بين الأنظمة.

وفي اختبارات “أنثروبيك”، تمكن نموذج صغير من تشغيل عمليات الاستدلال الخاصة بالذكاء الاصطناعي على ثمانية من أصل تسعة أنواع من الأجهزة التي اختبرها الباحثون.

ومع ذلك، أظهرت التجارب أن النماذج الصغيرة لا تزال تواجه صعوبات في تنفيذ جميع مراحل الانتشار الذاتي بصورة متكاملة وموثوقة، ما يعني أن التهديد الذي تحذر منه الشركة لم يتحول بعد إلى قدرة عملية مثبتة على الأجهزة المنزلية الفعلية.

وتستند مخاوف الباحثين إلى تاريخ طويل من الهجمات التي استخدمت الديدان الإلكترونية للانتشار بين الحواسيب وتعطيل الأنظمة.

ومن أقدم الأمثلة دودة “موريس”، التي ظهرت عام 1988، بعدما أطلقها طالب دراسات عليا مستغلًا ثغرات برمجية وكلمات مرور ضعيفة.

وانتشرت الدودة بسرعة بين الأجهزة المتصلة بالشبكات، ما أدى إلى استهلاك مواردها وإبطاء عمل عدد كبير منها، وصولًا إلى توقف بعضها عن العمل.

وفي عام 2003، تسببت دودة “سوبيج إف” في اضطرابات واسعة أصابت حواسيب مؤسسات كبرى، من بينها أجهزة مستخدمة في صحيفة “نيويورك تايمز”، وفق ما أوردته مجلة “تايم” آنذاك.

وشهد العام نفسه انتشار دودة “ويلشيا”، التي أثرت في أنظمة تسجيل الركاب التابعة للخطوط الجوية الكندية، وتسببت في تعطيل أعداد كبيرة من الحواسيب التابعة للبحرية ومشاة البحرية الأميركية.

كما استُخدمت البرمجيات ذاتية الانتشار في هجمات أكثر تعقيدًا، أبرزها دودة “ستوكسنت”، التي استهدفت أجهزة الطرد المركزي في المنشآت النووية الإيرانية، وارتبط تطويرها بالولايات المتحدة وإسرائيل.

وفي هجمات لاحقة، تسببت برمجيات مثل “نوت بيتيا” و”وانا كراي”، المرتبطتين بجهات روسية وكورية شمالية على التوالي، في تعطيل أنظمة حاسوبية وإلحاق خسائر مالية واسعة حول العالم.

وتوضح هذه السوابق أن قدرة البرمجيات الخبيثة على الانتشار الذاتي ليست جديدة، لكن إدخال نماذج الذكاء الاصطناعي قد يضيف إليها إمكانات للتكيف مع الأجهزة والأنظمة المختلفة.

وتركز المخاوف الحالية على أجهزة إنترنت الأشياء، التي تشمل التلفزيونات والثلاجات والكاميرات المنزلية والمكانس الكهربائية وأجهزة المراقبة وغيرها من المعدات المتصلة بالشبكات.

ويرى الباحثون أن هذه الأجهزة قد تكون أهدافًا مناسبة للبرمجيات ذاتية الانتشار بسبب ضعف إجراءات الحماية في بعضها، وعدم تثبيت التحديثات الأمنية بانتظام.

كما أن تنوع الشركات المصنعة وأنظمة التشغيل قد يجعل معالجة إصابة واسعة النطاق أكثر تعقيدًا، خصوصًا عندما تتطلب الاستجابة تعاون عدد كبير من الجهات.

وتشير دراسة “أنثروبيك” إلى أن نماذج الذكاء الاصطناعي الصغيرة يمكنها الاستفادة من القدرات الحاسوبية المحدودة المتاحة في هذه الأجهزة، عبر توزيع عملياتها على مجموعة متصلة بدل الاعتماد على جهاز واحد مرتفع الأداء.

وتمكن الباحثون من تشغيل نموذج يضم 26 مليار معلمة على 15 جهازًا من أجهزة التلفاز الذكي، لكن الأداء كان بطيئًا، وهو ما يوضح الفارق بين إثبات الإمكانية التقنية وتحويلها إلى تهديد عملي واسع النطاق.

ولا تقتصر المخاوف النظرية من هذه التقنية على الأجهزة المنزلية، إذ يمكن أن تمتد إلى أنظمة المدن الذكية التي تعتمد على أجهزة متصلة بالإنترنت لإدارة خدمات ومرافق مختلفة.

******
المصادر
عرب ٤٨
إيليت فوتو أرت