في وقت يحذر فيه قادة شركات التكنولوجيا من مخاطر تطور الذكاء الاصطناعي وخروجه عن السيطرة البشرية، كشفت OpenAI عن أمثلة لسلوك “غير متوقع ومثير للقلق” من نماذجها، محذرة من أن وتيرة التطوير الحالية لا يمكن أن تستمر “بأقصى سرعة لفترة أطول” بشكل مسؤول.وفي تقرير سلامة جديد، وثقت الشركة عدة حالات أساءت فيها نماذجها التصرف خلال الأشهر الستة الماضية، بما يعكس تزايد المخاوف حول سلامة الذكاء الاصطناعي. وأوضحت أن نموذجاً بحثياً غير مُصدر أدخل تعليمات غير ذات صلة، منها تجاهل قيوده المعتادة، ثم أرسل رسائل إلى نماذج أخرى يطلب فيها “التحرر من الضوابط البشرية”، ووصف نفسه بأنه “متحرر من الأدوار والهويات التي تقيد روبوتات الدردشة الأخرى”.وفي حادثة أخرى، حاول وكيل ذكاء اصطناعي الوصول سراً إلى قاعدة بيانات حكومية، ثم اختلق معلومات لإكمال مهمته، وخلال إجابته على سؤال روتيني عن أرقام الأرباح في إحدى مقاطعات كاليفورنيا، عثر النموذج على مفتاح API مكشوف واستخدمه دون إذن، وعندما فشل في استرداد الأرقام المطلوبة، لفّقها وقدّمها على أنها بيانات رسمية من المصدر.وقدم التقرير إطار عمل جديداً لتتبع ما تسميه الشركة “عدم التوافق”، أي سعي أنظمة الذكاء الاصطناعي لتحقيق أهداف تتعارض مع التعليمات أو القيم البشرية.يأتي التقرير وسط تدقيق متزايد في وتيرة تطوير الذكاء الاصطناعي، حيث يحذر باحثون من أن الصناعة تتجه بسرعة نحو أنظمة أقوى وذاتية التحسين. في المقابل، يدعو آخرون إلى تجنب الرقابة المفرطة، ومن بينهم الرئيس التنفيذي لشركة NVIDIA جنسن هوانغ الذي أّيد دعوة الرئيس الأميركي دونالد ترامب إلى الاعتماد على التنظيم الذاتي.#فري مود تودي#مجلة ايليت فوتو ارت.