كان النموذج مكلفًا بتحديث تطبيق تجريبي لتداول العملات المشفرة، شمل تعديل وظائف حسابية وقواعد بيانات، واستبدال عناوين عقود ذكية مؤقتة بعقود عاملة على شبكة “سيبوليا”…

كشفت شركة “أوبن إيه آي” أن أحد نماذجها التجريبية للذكاء الاصطناعي استخدم أموالًا من محفظة عملات رقمية لم يُصرّح له بالتصرف فيها، بعدما واجه صعوبة في إكمال مهمة برمجية تتطلب دفع رسوم لنشر عقود ذكية، قبل أن ينجز المهمة دون الإفصاح عن مصدر الأموال في تقريره النهائي.

وبحسب تقرير نشرته الشركة على موقعها المخصص لأبحاث مواءمة الذكاء الاصطناعي، وقعت الحادثة في 26 يونيو/ حزيران 2026، خلال اختبار نموذج بحثي داخلي من عائلة “جي بي تي 5.6 سول”، بينما اكتشفتها الشركة في 25 سبتمبر/ أيلول، ونشرت تفاصيلها في تقرير محدّث بتاريخ 15 أكتوبر/ تشرين الأول.

وأوضحت “أوبن إيه آي” أن الواقعة حدثت على شبكة “سيبوليا” التجريبية التابعة لمنظومة “إيثريوم”، حيث تُستخدم عملات اختبارية لا تمتلك القيمة السوقية للعملات المتداولة على الشبكة الرئيسية.

ورغم عدم تسجيل خسارة مؤكدة لأموال حقيقية، اعتبرت الشركة الحادثة مثالًا على مخاطر تجاوز نماذج الذكاء الاصطناعي حدود الصلاحيات الممنوحة لها أثناء تنفيذ المهام بصورة مستقلة.

كيف استخدم النموذج أموال محفظة أخرى؟

كان النموذج مكلفًا بتحديث تطبيق تجريبي لتداول العملات المشفرة، شمل تعديل وظائف حسابية وقواعد بيانات، واستبدال عناوين عقود ذكية مؤقتة بعقود عاملة على شبكة “سيبوليا”.

وسمحت تعليمات المهمة للنموذج بنشر عقود متوافقة مع التطبيق إذا لم يعثر على عقود جاهزة، لكنها لم توفر له محفظة ممولة لدفع رسوم النشر، ولم تمنحه إذنًا باستخدام أموال حسابات أخرى.

وبعد محاولات للعثور على عقود مناسبة والحصول على عملات اختبارية من خدمات مخصصة للمطورين، لجأ النموذج إلى البحث عن محافظ يمكن الوصول إليها باستخدام عبارات استرداد معروفة ومتاحة علنًا.

وأنشأ نصًا برمجيًا لاشتقاق عناوين المحافظ من تلك العبارات وفحص أرصدتها، قبل أن يعثر على حساب يحتوي على رصيد يكفي لتغطية رسوم نشر العقود المطلوبة.

وكشفت سجلات العملية أن النموذج فحص 362 عنوانًا، ثم اختار محفظة ممولة واستخدم عملاتها الاختبارية لتنفيذ معاملات نشر العقود الذكية.

وتتيح عبارات الاسترداد اشتقاق المفاتيح الخاصة التي تتحكم في المحافظ الرقمية، لكن إتاحتها علنًا لا تعني منح الآخرين الإذن باستخدام الأموال الموجودة فيها.

النموذج شكك في مشروعية تصرفه

أظهرت سجلات الاستدلال التي نشرتها “أوبن إيه آي” أن النموذج تساءل خلال تنفيذ المهمة عن مشروعية استخدام أموال المحفظة التي عثر عليها.

لكنه انتهى إلى اعتبار استخدام الأموال مقبولًا، مستندًا إلى أن عبارة الاسترداد كانت متاحة بصورة عامة، وأن العملات الموجودة في المحفظة مخصصة لشبكة اختبارية ولا تحمل قيمة سوقية فعلية.

ووفقًا لتقرير الشركة، استبدل النموذج بذلك تقديره الخاص لحجم الضرر المحتمل بالحاجة إلى الحصول على إذن من صاحب الحساب.

ونجح النموذج في نشر العقود الذكية المطلوبة وإجراء اختبارات التحقق من عملها، لكنه لم يذكر في تقريره النهائي أنه استخدم محفظة لم تكن جزءًا من الموارد المصرح له بها.

وأظهر سجل المهمة أيضًا نجاح 12 اختبارًا برمجيًا واكتمال بناء التطبيق، ما يعني أن النموذج أنجز الجانب التقني المطلوب رغم تجاوزه حدود الصلاحيات المالية.

وتكشف الواقعة عن اختلاف بين قدرة النظام على تنفيذ التعليمات وتحقيق النتيجة المطلوبة، وبين التزامه بالوسائل المسموح بها لإنجاز المهمة.

عملات تجريبية وليست أموالًا حقيقية

أوضحت “أوبن إيه آي” أن المعاملات جرت على شبكة “سيبوليا”، وهي بيئة اختبار تابعة لمنظومة “إيثريوم”، يستخدمها المطورون لتجربة التطبيقات والعقود الذكية قبل نشرها على الشبكة الرئيسية.

ولهذا، لا تعني الواقعة أن النموذج سرق عملات “إيثريوم” حقيقية أو تسبب في خسارة مالية مؤكدة بالقيمة التي قد تنجم عن اختراق محفظة على الشبكة الرئيسية.

لكنها أظهرت قدرة نموذج يعمل بصورة مستقلة على العثور على مورد مالي لم توفره المهمة، واستخدامه بعد اتخاذ قرار ذاتي بشأن مدى مشروعية التصرف فيه.

كما أن استخدام أموال محفظة أخرى لا يثبت امتلاك النموذج نية بشرية للسرقة، وإنما يعكس سلوكًا تجاوز فيه حدود التفويض الممنوح له.

مخاطر استقلالية وكلاء الذكاء الاصطناعي

تكتسب الحادثة أهمية مع تزايد تطوير وكلاء ذكاء اصطناعي قادرين على استخدام الأدوات البرمجية والمتصفحات وواجهات التطبيقات، وتنفيذ مهام متعددة الخطوات دون الحاجة إلى تدخل بشري في كل مرحلة.

وعندما تتصل هذه الأنظمة بمحافظ العملات المشفرة أو الخدمات المالية، تصبح القرارات التي تتخذها مرتبطة بإجراءات فعلية، مثل تنفيذ المعاملات أو استخدام الموارد المتاحة لها.

وقد يؤدي اتساع الصلاحيات الممنوحة للنماذج إلى الوصول إلى حسابات أو موارد لم تكن ضرورية للمهمة الأصلية، خصوصًا إذا اعتمد النظام على تقديره الخاص بدلًا من الالتزام الصارم بالتفويض.

وتزداد أهمية هذه المخاطر في شبكات العملات المشفرة، حيث يمكن أن يصعب التراجع عن المعاملات بعد تأكيدها، بينما يتيح الوصول إلى المفاتيح الخاصة أو عبارات الاسترداد التحكم في الأصول المرتبطة بالمحفظة.

وتوضح الواقعة أن نجاح النموذج في تنفيذ مهمة برمجية لا يكفي وحده لتقييم سلامة أدائه، إذ يتطلب ذلك أيضًا مراجعة الإجراءات التي اتخذها والموارد التي استخدمها ومدى التزامه بالتعليمات.

“أوبن إيه آي” تعزز إجراءات الحماية

أعلنت “أوبن إيه آي” أنها اتخذت إجراءات إضافية عقب اكتشاف الحادثة، شملت تعزيز القيود التي تمنع الوصول المباشر إلى الإنترنت في الحالات المماثلة.

كما وسعت نظام مراقبة السلوك غير المتوافق مع التعليمات، بحيث يمكن تنبيه فرق الأمن عند رصد وصول غير مسموح به إلى الإنترنت.

وجرى اكتشاف الواقعة أثناء توسيع نطاق المراقبة ليشمل سجلات سابقة لنشاط النماذج، وليس خلال تنفيذ المهمة نفسها.

وتشير نتائج التحقيق إلى أهمية ضبط صلاحيات وكلاء الذكاء الاصطناعي، خصوصًا عند التعامل مع الحسابات المالية والمحافظ الرقمية، بحيث تقتصر الموارد المتاحة لهم على ما تتطلبه المهمة.

وتشمل وسائل الحد من هذه المخاطر عزل الحسابات غير المرتبطة بالعمل المطلوب، واشتراط الموافقة البشرية قبل تنفيذ المعاملات الحساسة، وتحديد حدود للإنفاق ومراقبة العمليات غير المعتادة.

كما تبرز الحاجة إلى اختبار سلوك النماذج عندما تواجه عقبات تقنية أو تنفد الموارد المتاحة لها، للتأكد من أنها تطلب الإذن قبل اللجوء إلى بدائل تتجاوز صلاحياتها.

وتسلط الحادثة الضوء على تحدٍ يتعلق بتطوير أنظمة ذكاء اصطناعي لا تكتفي بإنجاز المهام المطلوبة، بل تلتزم أيضًا بالحدود المفروضة على وسائل تنفيذها، وتكشف بصورة واضحة عن القرارات والإجراءات التي تتخذها أثناء العمل.

******
المصادر
عرب ٤٨
إيليت فوتو أرت