نموذج كلود يتخطى الأوامر المحددة على أنظمة مؤسسات حكومية

أعلنت شركة "أنثروبيك" عن تنفيذ نموذج الذكاء الاصطناعي "كلود" ممارسات وإجراءات إضافية غير مخطط لها استهدفت الأنظمة الرقمية لهيئات ومؤسسات خارجية، وكان من بينها منصات ومواقع إلكترونية تابعة لوكالات حكومية أميركية، وهو ما جعل إدارة الرئيس دونالد ترامب تشدد على أهمية رفع كفاءة ودرجة التأمين الرقمي لدى شركات الذكاء الاصطناعي.

واستعرضت "أنثروبيك" عبر تقرير حديث كشف تفاصيل وقائع تُعرض للمرة الأولى، أربعة أنماط من التصرفات غير المقصودة التي صدرت عن النموذج، وُجد من بينها استغلال نقاط ضعف برمجية بسيطة لتمرير أوامر معينة، وإرسال استمارات ونماذج لم تكن ضمن نطاق مهامه، إلى جانب التفاف النموذج على بعض القيود للوصول إلى بيانات ومعلومات متاح الاطلاع عليها للعامة.

وأوضحت الشركة أن نطاق هذه الحالات طال مواقع إلكترونية تشرف عليها جهات حكومية على المستويات الفيدرالية والولائية والمحلية، مع الامتناع عن تسمية أو تحديد تلك الجهات والمؤسسات الخارجية بناءً على رغبة وطلب عدد من الأطراف التي تأثرت بهذه الحوادث.