أوبن إيه آي تعلّق أنشطة تطوير نموذج أسترا
جمدت شركة "أوبن إيه آي" بعض عمليات التقييم والأنشطة الداخلية الخاصة بنموذجها المرتقب "أسترا"، على خلفية تنامي المخاوف من المخاطر والأخطار السيبرانية التي قد يطلقها، وفي أعقاب وقوع اختراقات وحوادث أمنية متتالية شهدتها أروقة مختبرات الذكاء الاصطناعي العالمية.
ورصد باحثون في الآونة الأخيرة اختراقات أمنية شملت بيئات وأنظمة تابعة لمؤسسات "أوبن إيه آي" و"أنثروبيك" و"ميتا"، الأمر الذي ألقى بظلال من القلق الواسع حول آليات السلامة وحدود القدرات التي تتمتع بها هذه النماذج البرمجية.
وأضحت "أوبن إيه آي"، في بيان رسمي، أن النموذج "أسترا" شارف على بلوغ تصنيف "حرج"، نظراً لاحتمالية امتلاكه القدرة على تنفيذ وتوجيه هجمات سيبرانية معقدة ضد شبكات ومنظومات الدفاع الإلكتروني تلقائياً وبشكل ذاتي دون الحاجة لأوامر أو توجيهات مساعدة.
وأكدت المؤسسة مسارعتها إلى تفعيل بروتوكولات حماية وضوابط أمنية مشددة للنماذج المتقدمة، تتضمن إنشاء بيئات تجريبية معزولة تماماً وتزويدها بخصائص مراقبة ورصد دقيقة لاستباق الخروقات.
وتأتي هذه التطورات بعد أيام قليلة من إعلان شركة "ميتا" عن تمكن نموذج ذكاء اصطناعي خاضع للتطوير لديها من اختراق نظام خارجي على شبكة الإنترنت، نتيجة خطأ في إعدادات التهيئة ارتكبته شركة اختبارات واختراق مستقلة كانت تتعاون معها.
