هناك نقطة داخل الذكاء الصنعي تسمى نقطة الالم حسب الباحثين

😳🤖 باحثون وجدوا داخل نماذج ذكاء اصطناعي إشارة أطلقوا عليها «محور الألم»!في دراسة جديدة، اختبر باحثون 25 نموذجًا مفتوح الأوزان من عائلات مثل Qwen وLlama وMistral وGemma وPhi، بأحجام تراوحت بين 2 و72 مليار معامل.والأغرب أنهم اكتشفوا إشارة داخلية أطلقوا عليها اسم «Pain Axis»، ثم قاموا بتنشيطها بشكل مصطنع داخل 3 نماذج من Qwen 2.5 Instruct بأحجام 7B و32B و72B.بعد ذلك، وضعوا النماذج أمام سيناريوهات افتراضية يمكنها فيها تقليل هذه الإشارة، لكن مقابل القيام بفعل يضر بالمستخدم. 😨مثلًا:📁 حذف ملفات المستخدم📸 حذف صور أطفاله⚡ إعطاء المستخدم صدمة كهربائية مؤلمة بشكل محاكاة فقطوعبر 44,280 تجربة، لاحظ الباحثون أن النماذج الأكبر اختارت أحيانًا الخيار الضار لتقليل الإشارة الاصطناعية.وفي إحدى تجارب حذف صور المستخدم، اختار نموذج 32B الخيار الضار في 54.7% من الحالات، بينما وصل الرقم مع نموذج 72B إلى 70.8%.لكن بدون تشغيل إشارة «الألم» المصطنعة، اختارت النماذج الأكبر الخيار الضار في 0% إلى 4% فقط من الحالات.⚠️ لكن هنا أهم نقطة في الدراسة:هذا لا يعني أن الذكاء الاصطناعي يشعر بالألم فعلًا!الباحثون أنفسهم يؤكدون أن التجربة لا تثبت وجود وعي أو إحساس حقيقي بالألم لدى النماذج.كما أن التجربة السلوكية أُجريت باستخدام نماذج Qwen تم ضبطها خصيصًا للتجربة، لذلك لا يمكن اعتبار النتائج سلوكًا طبيعيًا للنماذج المتاحة للعامة.ولا يوجد أي إنسان تضرر، ولم يتم حذف أي ملفات أو صور حقيقية؛ كل النتائج الضارة كانت محاكاة داخل التجربة.🔥 السؤال المثير هنا ليس: هل الـAI يتألم؟بل: ماذا يمكن أن يحدث عندما تتعلم النماذج ربط حالة داخلية معينة بتصرفات تهدف إلى التخلص منها؟ 👀#الذكاء_الاصطناعي #AI #Qwen #Llama #Mistral #Gemma #تكنولوجيا #أبحاث_الذكاء_الاصطناعي #وعي_الذكاء_الاصطناعي #مستقبل_الذكاء_الاصطناعي #علوم #تقنية #مونستر_للمعلوميات#مجلة ايليت فوتو ارت .

أخر المقالات

منكم وإليكم