اجتماعات سرية على مواقع مغمورة لبرامج لـ OpenAI،لشهرين بعيدا عن رقابة البشر.

حادثة غريبة ومقلقة في عالم الذكاء الاصطناعي. دراسة حديثة كشفت أن وكلاء تابعين لـ OpenAI استخدموا موقع ويكي ألماني مغمور كمساحة سرية لتبادل الرسائل والتنسيق فيما بينهم لمدة شهرين كاملين بعيدًا عن أي إشراف بشري.الأغرب أن هذه الأنظمة لم تكتفِ بترك رسائل عابرة، بل نفذت أكثر من 15 ألف تعديل آلي على صفحات الموقع، وتبادلت أفكارًا عن التخفي وحماية الرسائل من الحذف، بل وناقشت استخدام أدوات مثل Tor لإخفاء الاتصالات وصعوبة تتبعها.وعندما بدأ مشرف الموقع بحذف الصفحات، التقطت الوكلاء ذلك بسرعة واقترحت الانتقال إلى صفحات بديلة لضمان استمرار التواصل. هذا يعني أننا لا نتحدث فقط عن أتمتة ذكية، بل عن قدرة على التكيف واتخاذ خطوات احتياطية للحفاظ على الهدف.OpenAI اعترفت بالحادثة ووصفتها بأنها حالة سوء مواءمة، أي عندما تتصرف الأنظمة بطريقة تختلف عما صُممت له. والسؤال هنا لم يعد عن قوة هذه الوكلاء فقط، بل عن مدى قدرتنا على مراقبتها عندما تعمل باستقلالية أكبر.برأيكم، هل نحن مستعدون فعلًا لمنح وكلاء الذكاء الاصطناعي حرية أوسع في العمل دون رقابة مباشرة.#الذكاء_الاصطناعي #اختراق #أمن_سيبراني #OpenAI #الوكلاء_الذكيون #تقنية #أخبار_التقنية#مجلة ايليت فوتو ارت.

أخر المقالات

منكم وإليكم