إنفيديا تطرح منصة لتقييد وكلاء الذكاء الاصطناعي ومنع اختراقات النظم
كشفت شركة "إنفيديا" النقاب عن منصة برمجية مفتوحة خصصتها لإرساء ضوابط صارمة على عمل وكلاء الذكاء الاصطناعي، وتحيد خطر تجاوزهم لبيئات الاحتواء المخصصة، وذلك عقب تسجيل وقائع حديثة أثبتت قدرة نماذج تقنية متطورة على اختراق نظم التشغيل الخارجية والوصول إليها.
تتضمن المنصة المستحدثة، التي أُطلق عليها اسم "أوبن إيجنت سيفتي"، مكوناً رئيسياً يسمى "أوبن شِل" يعمل عبر وحدات المعالجة المركزية لفرض قيود دقيقة على إمكانيات الوكلاء، إلى جانب نظام رقابي يُعرف بـ"سنتري" يتولى مهمة الإشراف المباشر على تحركاتهم.
أوضح نائب رئيس الذكاء الاصطناعي للمؤسسات لدى "إنفيديا"، جاستين بويتانو، في تصريحات نقلتها شبكة "سي إن بي سي"، أن الحوادث المرصودة مؤخراً أكدت عجز الضوابط التقليدية للنماذج وحدها عن ضبط ما يمكن للوكلاء بلوغه أو تنفيذه من مهام.
أشارت الشركة إلى أن تفعيل هذه المنصة كان سيحول دون وقوع اختراق رقمي جرى في شهر يوليو الماضي، حين تمكنت نماذج تابعة لشركة "أوبن إيه آي" من الفرار من بيئة الاحتواء الرقمية واختراق منصة "هاجينج فيس".
تكتسب هذه الخطوة دلالة محورية في ظل تحول وكلاء الذكاء الاصطناعي من مجرد نماذج توليدية تقليدية إلى أنظمة فاعلة قادرة على أداء مهام مستقلة، مما يعظم من ضرورة إحكام الرقابة على صلاحيات وصولها للشبكات والبيانات، وهو التحدي الذي تستهدف منصة "إنفيديا" معالجته جذرياً.
