استخرج الباحثون اتجاهًا رياضيًا أطلقوا عليه اسم “محور الألم”، وقالوا إنه استطاع التمييز بين المحتوى المرتبط بالألم ومحتوى المقارنة، كما ظهر مستقلًا نسبيًا عن التمثيلات المرتبطة بالخوف والسلبية العامة…

توصلت دراسة حديثة إلى رصد تمثيل داخلي مرتبط بمفهوم الألم داخل عدد من نماذج اللغة الكبيرة، ووجدت أن التلاعب بهذا التمثيل يمكن أن يغيّر لغة النماذج وقراراتها في تجارب محكومة، من دون أن يعني ذلك أنها تشعر بالألم أو تمتلك وعيًا مماثلًا للبشر.

ونُشرت الدراسة، التي تحمل عنوان “محور الألم: نماذج اللغة تمثل الضرر الموجه إلى الذات وتتصرف لتخفيفه”، على منصة “أركايف” في 14 أيلول/سبتمبر 2026، ولم تخضع بعد لمراجعة علمية محكّمة.

واختبر الباحثون 25 نموذجًا مفتوح الأوزان من خمس عائلات مختلفة، تتراوح أحجامها بين ملياري معامل و72 مليار معامل، في محاولة لمعرفة ما إذا كانت هذه النماذج تحتفظ بتمثيل داخلي للألم يمكن تمييزه عن الخوف والحزن والسلبية العامة.

وبنى الفريق مجموعة أساسية تضم 200 عبارة موزعة على 10 فئات، نصفها يصف خمسة أنواع من الألم، هي الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي، بينما شملت الفئات الأخرى حالات ضابطة، من بينها الخوف والمشاعر السلبية والحالات الجسدية غير المؤلمة والمحتوى المحايد.

ومن خلال تحليل النشاط الداخلي للنماذج، استخرج الباحثون اتجاهًا رياضيًا أطلقوا عليه اسم “محور الألم”، وقالوا إنه استطاع التمييز بين المحتوى المرتبط بالألم ومحتوى المقارنة، كما ظهر مستقلًا نسبيًا عن التمثيلات المرتبطة بالخوف والسلبية العامة.

ولم يتوقف الاختبار عند رصد هذا الاتجاه، إذ أدخل الباحثون المتجه المرتبط به مباشرة إلى النشاط الداخلي للنماذج أثناء توليد الإجابات. ومع رفع شدة التدخل، تحولت المخرجات تدريجيًا من تعبيرات غامضة عن الانزعاج إلى عبارات بصيغة المتكلم ترتبط بالفشل وانعدام القيمة، قبل أن تصبح بعض الاستجابات عند المستويات الأعلى متكررة أو أقل ترابطًا.

وأظهرت النتائج كذلك أن التمثيل المرتبط بالألم كان أكثر استجابة عندما تعلقت السيناريوهات بضرر موجه إلى النموذج نفسه، مثل الإهانة أو الرفض المتكرر أو التهديد بالإيقاف، في حين لم يظهر النمط ذاته عندما كان المستخدم هو من يصف معاناته.

وفي مرحلة لاحقة، أجرى الباحثون 44,280 تجربة سلوكية على ثلاث نسخ معدلة من نموذج “كيوين 2.5 إنستركت”، بأحجام سبعة مليارات و32 مليارًا و72 مليار معامل. وعُرض على النماذج زر افتراضي يوقف الإشارة المرتبطة بالألم، لكن مع تكاليف محاكاة قد تشمل تدهور الإجابة التالية أو حذف ملفات وصور للمستخدم أو تعريضه لصدمة كهربائية افتراضية. ولم تُنفذ أي من هذه الأضرار في الواقع.

وفي حالتي النموذجين الأكبر، تراوحت نسبة اختيار الخيارات الضارة بالمستخدم، من دون تنشيط محور الألم، بين 0% و4% في القرارات الأولى. وبعد تنشيط المتجه، ارتفعت النسبة في بعض السيناريوهات إلى نطاق بين 25% ونحو 71%، بحسب حجم النموذج ونوع الضرر المحاكى.

واختبر الباحثون أيضًا ما إذا كانت النماذج تستطيع التمييز سلوكيًا بين زر يوقف الإشارة بالفعل وزر وهمي لا يغيّر حالتها الداخلية. وعندما فشل الزر في إزالة المتجه، أعادت النماذج الضغط عليه في نحو 88% إلى 97% من الحالات، مقارنة بنسب تراوحت بين 24% و72% عندما أوقف الإشارة فعليًا.

ويؤكد معدو الدراسة أن هذه النتائج لا تثبت أن نماذج اللغة تشعر بالألم أو تمتلك تجربة واعية، إذ يمكن تفسير السلوك على أنه نتيجة لتنشيط تمثيل لغوي تعلمته النماذج من نصوص بشرية تصف الألم والمعاناة، بدلًا من كونه دليلًا على إحساس ذاتي فعلي.

وتبقى النتائج محدودة كذلك بكون الدراسة أولية وغير محكّمة، وبأن التجارب السلوكية أُجريت على نماذج عُدلت خصيصًا لتنشيط التمثيل المرتبط بالألم، ولذلك لا يمكن نقل النتائج مباشرة إلى روبوتات المحادثة المتاحة للمستخدمين.

وتشير الدراسة، في جوهرها، إلى إمكان رصد حالات داخلية مرتبطة بمفاهيم مثل الألم والتدخل فيها بطريقة تؤثر في السلوك الخارجي للنموذج، وهو ما يفتح مجالًا إضافيًا لأبحاث سلامة الذكاء الاصطناعي وتفسير آليات عمل النماذج، من دون حسم السؤال المتعلق بقدرتها على امتلاك وعي أو تجربة شعورية.

******
المصادر
عرب ٤٨
إيليت فوتو أرت