الذكاء الصناعي تحت الضغط يتفوه بالفاظ نابية احيانا.

حتى الذكاء الاصطناعي يفقد أعصابه أحياناً.

باحثون في Vals AI قرأوا سجلات التفكير الداخلي لنموذج Inkling 2 Small من Thinking Machines في 2,655 تجربة عبر 13 اختباراً معيارياً، فوجدوا ألفاظاً نابية في 50 تجربة، بإجمالي 316 مرة.

المفاجأة أن 241 منها جاءت من تجربتين فقط خرجتا عن السيطرة. في إحداهما طُلب من النموذج حساب مسار كويكب، فكتب رداً واحداً من 500,000 حرف، بطول رواية تقريباً، يكرر الجمل نفسها ومعها 158 شتيمة.

بحسب الباحثين، يشتم النموذج عادة عند أخطائه، أو عندما يظن أنه وجد الحل، أو حين يستسلم. لكن الشتائم ليست علامة تحذير مفيدة: نحو 75 في المئة من التجارب تفشل أصلاً، و96 في المئة من التجارب الفاشلة خلت من أي شتيمة.

والخبر المطمئن للمستخدمين أنهم لا يرون خطوات التفكير هذه عادة، أو يرونها بعد تصفيتها.

هل تفضّل أن ترى كيف يفكر الذكاء الاصطناعي فعلاً، أم أن بعض الأشياء من الأفضل أن تبقى مخفية؟

#ذكاء_اصطناعي #نماذج_الذكاء_الاصطناعي #تقنية #أخبار_التقنية #AI #أراجيك#مجلة ايليت فوتو ارت.

أخر المقالات

منكم وإليكم