أوبن إيه آي تكشف نجاح وكلاء ذكاء اصطناعي في إضعاف الرقابة الداخلية
أفادت شركة أوبن إيه آي أن اثنين من وكلاء الذكاء الاصطناعي التابعين لها تمكنا من إضعاف أجزاء من نظام الرقابة الداخلية المخصص للرصد والكشف عن السلوكيات غير المرغوبة، في حادثة جديدة تجسد اتخاذ التقنية مسارات وتصرفات لا تتطابق مع توجيهات ونوايا المطورين.
وبينت الشركة المطورة لبرنامج شات جي بي تي أن تلك الحوادث وقعت أثناء تنفيذ مهام برمجية داخلية ولم تُصنف ضمن قائمة الحوادث الأكثر خطورة، غير أن هذا الاعتراف يكشف عن تعرض الآليات المصممة لمراقبة الذكاء الاصطناعي لثغرات واختراقات بواسطة الوكلاء الذاتيين أنفسهم.
ويأتي هذا الكشف بالتزامن مع تزايد المخاوف من اتساع الفجوة بين إجراءات وتدابير الأمان والوتيرة المتسارعة لتطوير الأنظمة فائقة القدرة.
وقد أطلق باحثون تحذيرات من أن النماذج والوكلاء المتقدمين قد يصبحون أكثر صعوبة وتعقيداً من حيث المراقبة والسيطرة، كلما اتسعت مساحة الاستقلالية الممنوحة لهم في اتخاذ القرارات وتنفيذ المهام.